גונזלס נגד גוגל: כשהאלגוריתם עצמו הוא הראיה

תארו לעצמכם תשעה מהשופטים החזקים בעולם, אנשים שמורגלים שהמילה האחרונה היא שלהם, ולפתע הם תקועים. לא בשאלה משפטית, אלא בשאלה מכאנית פשוטה (תשעה גברברים בגלימות שחורות שמתכנסים כדי לפרש פלואו-צ’ארט). אולם מלא בעורכי דין, ותשעה שופטי בית המשפט העליון האמריקאי בילו אחר צהריים שלם בניסיון לתאר במילים פשוטות מה בכלל עושה אלגוריתם המלצות. לא אם זה טוב או רע, ולא אם צריך להסדיר אותו בחוק. השאלה הפשוטה היא: מה זה, מכאנית, ואיפה “הצגת וידאו למשתמש” מפסיקה להיות אירוח ומתחילה להיות משהו אחר. העובדה שתשעה מהשופטים הבכירים בארצות הברית נאבקו עם זה אומרת פחות על הפוליטיקה האמריקאית של חופש הביטוי, ויותר על מה שקורה בכל אולם בית משפט, בכל מקום, גם בישראל, כשסכסוך נשען על תוכנה שאף אחד באולם לא מצליח לתאר בדיוק.

מה בדיוק קרה

הכול מתחיל באובדן שאין לו תיקון. נוהמי גונזלס, סטודנטית בת 23 במכללת קליפורניה סטייט בלונג ביץ’, נהרגה בפיגועי הטרור בפריז בנובמבר 2015, שדאעש קיבל עליהם אחריות. משפחתה עשתה דבר שבאותם ימים עדיין לא נוסה בצורה הזו: היא תבעה את גוגל בארצות הברית, בטענה שאלגוריתם ההמלצות של YouTube דחף באופן אקטיבי סרטוני גיוס ותעמולה של דאעש למשתמשים, ושזה חרג מעבר לאירוח רגיל של תוכן צד שלישי. המשפחה הגישה את התביעה מכוח החוק הפדרלי האמריקאי למניעת טרור (Anti-Terrorism Act), וטענתה המשפטית המרכזית הייתה שסעיף 230 לחוק הגינות התקשורת (Communications Decency Act), החוק שמגן על פלטפורמות מאחריות לתוכן שמשתמשים אחרים מעלים, לא צריך לחול על ההחלטה האלגוריתמית העצמאית של הפלטפורמה להמליץ על אותו תוכן. עמדת גוגל הייתה הפוכה בתכלית: שהמלצה על תוכן של צד שלישי היא רק עוד דרך לארגן ולהציג אותו, וסעיף 230 מגן על זה בדיוק כמו שהוא מגן על אירוח התוכן מלכתחילה.

בית המשפט העליון שמע טיעון בעל פה ב-21 בפברואר 2023. מה שעלה מהטיעון הזה לא הכריע לגופו של עניין בטענות האלגוריתם של אף אחד מהצדדים, אלא היה משהו צר יותר, ומבחינת מי שעובד עם ראיות טכניות, הרבה יותר חושף. השופט אליטו אמר לעורך הדין של המשפחה שהוא “מבולבל לחלוטין מכל טענה שאתה מעלה כרגע”, השופטת ג’קסון אמרה שהיא “מבולבלת לגמרי” לגבי האופן שבו התיק צריך להתברר, והשופטת קייגן אמרה את זה בחדות הרבה יותר: בית המשפט, לדבריה, “לא ממש מבין בדברים האלה” - אלה, במילותיה, “לא תשעת המומחים הגדולים בעולם לאינטרנט” (הודאה כנה, מפי אנשים שהמקצוע שלהם הוא בדיוק לשרטט קווים ברורים). ואז, חודשים אחר כך, הגיע הרגע שכולם המתינו לו - והוא לא הביא את התשובה שציפו לה. במאי 2023 נתן בית המשפט את פסק דינו: הוא בטל והחזיר את פסק הדין של ערכאת הערעורים של המחוז התשיעי, לא כי הוא הכריע בשאלת סעיף 230, אלא לאור פסיקתו שלו מאותו היום בתיק המשלים טוויטר נגד תמנה (Twitter v. Taamneh), שקבעה שהתובעים בתיק הקשור ההוא לא הציגו עילת תביעה תקפה מכוח חוק מניעת הטרור, בלי קשר לאופן שבו סעיף 230 חל. בית המשפט השאיר באופן מפורש את שאלת ההמלצה האלגוריתמית תחת סעיף 230 פתוחה, בלי הכרעה, ולא צידד לא בגוגל ולא במשפחת גונזלס. הוא בחר להתחמק מהכרעה (כמו לסיים מרתון ולהימנע מלהכריז מי ניצח).

הממצא הטכני: מערכת המלצות שאף אחד לא הצליח לאפיין במלואה באולם

שום דבר כאן לא נפרץ, לא נגנב, לא דלף. אין כאן יומן פריצה, אין מסד נתונים שחולץ, ובדיוק זה מה שהופך את התיק הזה למטריד כל כך למי שחושב על “ראיה” כדבר שאפשר להצביע עליו. האובייקט השנוי במחלוקת הוא אלגוריתם ההמלצות עצמו: מערכת שקולטת היסטוריית צפייה ואותות מעורבות של משתמש ומפיקה רשימה מדורגת של סרטוני “הבא בתור”, בקצב ובהיקף שאף אדם בודד לא יכול לבדוק ביד. כל המאבק המשפטי נשען על השאלה איך צריך לאפיין את המערכת הזו: האם דירוג והצגת תוכן הם הרחבה כמו-עורכית, בעיקרה פסיבית, של אירוח, או פעולה עצמאית שהמערכת עצמה מייצרת, ושיוצרת אחריות משלה? עורכי הדין משני הצדדים נאלצו לטעון לגבי ההתנהגות של המערכת הזו בפני הרכב שופטים שהודו בעצמם שלא היו מצוידים לפתוח אותה ולתאר מבפנים את הקלט והפלט האמיתיים שלה: תשעה מהמוחות המשפטיים החדים בעולם, שנאלצו לתאר קופסה שחורה מבחוץ, כמו לכתוב ביקורת מסעדה לפי תפריט שרואים מבעד לחלון מחוספס. הפער הזה, בין השאלה המשפטית למציאות הטכנית שמתחתיה, הוא בדיוק המקום שבו תיק כזה נתקע.

מה חוות דעת מומחה סייבר בתחום האלגוריתמים באמת בודקת בתיק מערכת המלצות

בדיוק כאן נכנס עד מומחה סייבר שתפקידו לסגור את הפער הזה. מערכת המלצות או דירוג היא לא קופסה שחורה שעורך דין יכול לתאר מהודעה לעיתונות או מתוך האינטואיציה של תובע ש”האלגוריתם דחף תוכן קיצוני”, אלא תוכנה עם קלט אמיתי, לוגיקה אמיתית ופלט אמיתי, שכל אחד מהם ניתן לבדיקה. בסכסוך על מערכת המלצות, מומחה טכני שמונה מטעם בית המשפט לא מתווכח על “אלגוריתמים” כהפשטה פוליטית. הוא מצמצם את השאלה למשהו שניתן לבדוק בפועל: אילו אותות ספציפיים הזינו את ההמלצה הנדונה, איזו לוגיקת דירוג (או התנהגות מודל) הפיקה אותה, ובמה זה שונה, או דומה, לפלטפורמה שסתם מארחת עמוד שמשתמש היה יכול להגיע אליו ישירות. משם, המשימה של המומחה היא להפיק חוות דעת כתובה שנותנת לבית המשפט תיאור מדויק וניתן להפרכה של ההתנהגות האמיתית של המערכת: לא מטאפורה, לא אנלוגיה לעורך עיתון או למדף בספרייה, אלא תיאור נבדק של הקוד ושל מסלול הנתונים. זה התיעוד שבית משפט צריך לפני שהוא יכול לנמק בבירור איפה “אירוח” נגמר ואיפה “המלצה” מתחילה, במקום להשאיר להרכב לעשות מה שקרה בפועל באולם בפברואר 2023: לנחש היכן הקו עובר.

למה זה חשוב להתדיינות בישראל

הנה החלק שצריך להדאיג כל עורך דין ישראלי: לבית המשפט העליון האמריקאי היו כל המשאבים בעולם, ועדיין הוא הלך משם בלי תשובה. בתי משפט בישראל יפגשו עוד ועוד בדיוק את הבעיה הזו, לא פחות. כל סכסוך שכולל מנוע המלצות, אלגוריתם דירוג, מערכת התאמה, או פלט של מודל AI, יישען על אותה שאלה בדיוק שתיק גונזלס מעולם לא נתן לה מענה: מה המערכת עשתה בפועל, והאם מישהו יכול לתאר זאת בדיוק שיאפשר לשופט לפסוק? עורך דין שנכנס לתיק כזה עם טיעון על מה שהאלגוריתם “כנראה” עושה, במקום תיאור טכני נבדק של מה שהוא מוכח עושה, נמצא באותו מקום שבו היו השופטים בטיעון בעל פה בפברואר 2023: מנסה לנמק לגבי מערכת שהוא רואה רק מבחוץ. הכנסת עד מומחה סייבר בשלב מוקדם, לפני שהעמדות מתקבעות, היא מה שהופך את “האלגוריתם עשה משהו רע” לטענה שבית משפט יכול בכלל להעריך.

האמור לעיל הוא מידע כללי ואינו מהווה ייעוץ משפטי. עובדות המקרה מבוססות על המקורות המצוינים.