בין 2021 ל-2024 בוטלו בבריטניה הרשעות של מנהלי סניפי דואר רבים — אנשים שהואשמו במעילה על סמך גירעונות שתוכנת Horizon הציגה. בית המשפט לערעורים ביטל 39 הרשעות ב-2021, וחקיקה ב-2024 ביטלה רבות נוספות. מקור הגירעונות לא היה גניבה. הוא היה תוכנה.
החלק שמומחה תוכנה חייב להתעכב עליו הוא לא ה”באג” עצמו אלא ההנחה שמסביבו: שפלט מחשב נכון כל עוד לא הוכח אחרת. ל-Horizon היו באגים ידועים שיצרו גירעונות פיקטיביים, והייתה יכולת לשנות נתוני סניף מרחוק — בלי שמנהל הסניף ידע. אבל כל עוד איש לא דרש את יומני הביקורת ואת היסטוריית הגישה, הפלט נראה כמו עובדה.
זה בדיוק המקום שבו האינסטינקט המשפטי מועד. הנטייה הטבעית — בבריטניה כמו בישראל — היא להתייחס לפלט מחשב או מסמך ממוחשב כמהימן כברירת מחדל. אבל אמינות איננה תכונה של המערכת; היא טענה שצריך לבחון:
- האם יש באגים ידועים שמשפיעים בדיוק על סוג הרשומה הזו?
- מי יכול היה לשנות את הנתון, מאיפה, ומתי — והאם זה מתועד?
- האם יומני הביקורת עצמם שלמים, או שיש בהם פערים?
- מה גרסת המערכת בזמן האירוע — ולא בזמן ההפקה של הדוח?
השאלה שמכריעה תיקים כאלה היא לא “מה המערכת מראה”, אלא “כמה אנחנו יכולים לסמוך על מה שהמערכת מראה, וכיצד נוכל לבדוק זאת?”. מענה על כך הוא עבודה של מומחה תוכנה: ניתוח אמינות, קריאת יומנים, ובחינת היכולת לשנות נתונים מאחורי הקלעים.