18 במרץ 2018, 21:58, טמפי, אריזונה.
תארו לעצמכם רחוב שקט מספיק כדי שאישה תרגיש בטוחה לחצות אותו עם האופניים שלה, באמצע הבלוק, בחושך. רכב אוטונומי של אובר לניסויים, וולוו XC90 עם מערכת נהיגה עצמאית קניינית, פגע באיילין הרצברג בזמן שחצתה את שדרת מיל, מחוץ למעבר חצייה. היא מתה במקום. זה מדווח בהרחבה כמקרה המוות הראשון של הולך רגל ברכב אוטונומי לגמרי בארצות הברית, והפרט שאי אפשר לזוז ממנו הוא זה: האדם היחיד שעמד אי פעם לדין על כך היה נהגת הבטיחות שישבה מאחורי ההגה, לא החברה שבנתה את המערכת.
בן אדם אחד מואשם. התאגיד יוצא נקי. שווה לעצור כאן רגע, כי הפיצול הזה הוא כל הסיפור, והוא לא הוכרע לפי הגרסה של אף אחד. הוא הוכרע לפי לוגים.
מה הרשומה של הרכב עצמו הראתה
מאחורי ההגה ישבה רפאלה ואסקז, שאובר העסיקה כדי לפקח על המערכת האוטונומית ולהשתלט במקרה של כשל. הנה מה שהמכונה עצמה זכרה: לפי חקירת ה-NTSB (מועצת הבטיחות הלאומית לתחבורה האמריקאית), הראדאר והלידאר של הרכב זיהו את הרצברג כשש שניות לפני הפגיעה. שש שניות, ובחלון הזמן הזה תוכנת המערכת סיווגה אותה מחדש שלוש פעמים. קודם אובייקט לא מזוהה. אחר כך רכב. ואז אופניים. כל סיווג מחדש איפס את התחזית לגבי הכיוון שאליו היא הולכת. כשנייה ושליש לפני הפגיעה, המערכת קבעה סוף סוף שנדרשת בלימת חירום.
היא לא יכלה לפעול על סמך הקביעה הזו. תקראו את זה פעמיים, כי זו הנקודה שכל התיק נסמך עליה: אובר תכנתה את הרכב לנטרל אוטומטית את בלימת החירום, תכונה שקיימת כברירת מחדל בוולוו XC90, בכל פעם שהרכב נמצא בשליטת המחשב, במפורש כדי למנוע התנהגות בלימה בלתי צפויה. המערכת נבנתה כדי לסמן את הסכנה ולהעביר את ההחלטה לבן אדם. אז מה בן האדם עשה באותו רגע? חוקרי NTSB מצאו שוואסקז הביטה למטה בטלפון שלה וצפתה בתוכנית טלוויזיה בסטרימינג לאורך קטעים ארוכים מהנסיעה, כולל ברגעים שלפני התאונה.
כך ניסחה הוועדה את הגורם המרכזי שקבעה: שני כשלים זה לצד זה. כשלה של ואסקז לפקח על סביבת הנהיגה בגלל הסחת דעת ויזואלית, וכשל של אובר בתרבות הבטיחות שלה: תהליך הערכת הסיכונים, הפיקוח על המפעילים, וההיעדר המוחלט של מנגנון הגנה בדיוק מפני סוג השאננות האוטומטית הזה שקרה בפועל.
ב-2020 האשים חבר מושבעים גדול במחוז מריקופה את ואסקז בהריגה ברשלנות. ביולי 2023 היא הודתה באשמה מופחתת של סיכון חיים (endangerment), ונדונה לשלוש שנות מבחן בפיקוח. אובר עצמה מעולם לא הועמדה לדין פלילי. התביעה כבר קבעה, עוד ב-2019, שאין בסיס לאחריות פלילית תאגידית.
השאלה שבית המשפט באמת היה צריך לענות עליה
מומחה שחזור תאונות יכול לספר לכם איפה הרכב היה, באיזו מהירות נסע, מתי בלם. שימושי, אבל לא זו השאלה שהתיק הזה באמת הוכרע לפיה. השאלה הייתה צרה יותר, וטכנית הרבה יותר: בכל אחד משלושת אירועי הסיווג מחדש, מה המערכת ידעה, מה היא עשתה עם הידע הזה, ובאיזה רגע האחריות על התוצאה עברה מעיצוב התוכנה לשיקול דעת אנושי?
את התשובה לא תמצאו בדוח משטרתי. היא נמצאת ביומן התפיסה של התוכנה עצמה: אירועי זיהוי וסיווג אובייקטים עם חותמות זמן, עקבת המהירות וההיגוי של הרכב, הגדרת תצורת הבלימה האוטומטית, לצד וידאו הניטור של הנהגת מתוך התא, על אותו ציר זמן. תיישרו את שתי הרשומות זו לצד זו, שנייה אחרי שנייה, ותוכלו לראות איך “המערכת הייתה צריכה לדעת” הופך ל”המערכת ידעה ובחרה לא לפעול”, ואז ל”בן אדם היה אמור לתפוס את זה ולא תפס”. תזיזו את ציר הזמן בשנייה אחת בלבד לכל כיוון, והסיפור, והאחריות, משתנים מתחת לרגליים.
מהנדס כללי יכול להסביר, באופן תיאורטי, איך סיווג אובייקטים עובד. עורך דין יכול לקרוא את התקציר של NTSB. אף אחד מהשניים לא יכול לשחזר בעצמו את יומן הסיווג מול וידאו הניטור, לוודא שחותמות הזמן מסתדרות, ולקבוע (בתוך הגבולות הכנים של מה שהנתונים כן ולא מראים) בדיוק מתי חלון ההתערבות האנושית נפתח ומתי הוא נסגר. השחזור הזה הוא העבודה של מומחה תוכנה שממונה על ידי בית המשפט: להגדיר את השאלה הטכנית הצרה, לרשום את הארטיפקטים הספציפיים הנדרשים (יומני תפיסה, תצורת הבלימה, וידאו ניטור, נתוני ה-bus של הרכב), להפעיל שיטה שניתנת לשחזור כדי לקשר ביניהם, ולומר בפירוש מה הרשומה לא פותרת. טענה כללית כמו “הבינה המלאכותית נכשלה” לא שורדת חקירה נגדית. מה ששורד הוא תיאור עם חותמות זמן של מה שהמכונה ידעה, מה היא עשתה, ומה נשאר לבן אדם לעשות.
למה חברות ישראליות שמפעילות מערכות אוטונומיות צריכות חוות דעת מומחה
לישראל יש תעשיית רכב אוטונומי ומערכות ADAS רצינית, ואותה החלטת עיצוב שאובר קיבלה, איפה המערכת מעבירה את השליטה לבן אדם ומה היא מתעדת על ההעברה הזו, קיימת היום בתוך כל אחד מהמוצרים האלה. אז שאלו את עצמכם את השאלה שהמקרה הזה באמת שואל: אם המערכת שלכם מזהה סכנה ומעבירה את ההחלטה הסופית לבן אדם, האם אתם יכולים להראות, שנייה אחרי שנייה, מה המערכת ידעה ומתי בדיוק ההעברה קרתה? אם אתם לא יכולים לשחזר את זה מהלוגים שלכם, אתם נשענים על אותו סוג גרסה ש-NTSB הרכיבה בשביל אובר בדיעבד: מעוצבת על ידי החברה, נבחנת מול החברה.
לעורכי דין, הלקח הוא לבדוק לפני שלוקחים את התיק אם נתוני התפיסה, הסיווג וההעברה של הרכב בכלל קיימים בצורה שניתן לשחזר, ולא לחכות ולהביא מומחה רכב אוטונומי רק אחרי שכבר קרתה תאונה. כי אם הנתונים האלה לא קיימים, התיק ייטען על בסיס טענות שיווקיות ועדות הנהג בלבד, וזאת רשומה הרבה יותר חלשה לבנות עליה.
בתיקים מהסוג הזה מה שמכריע הוא חוות דעת מומחה סייבר שנכתבה כך שתחזיק בחקירה נגדית.
האמור לעיל הוא מידע כללי בלבד ואינו מהווה ייעוץ משפטי. פרטי התיק מבוססים על המקורות המצוטטים.