בחירות דמוקרטיות בעידן של פייק ובינה מלאכותית

בשנת 1888 יצאה לשוק המצלמה הניידת, ולראשונה היה אפשר לצלם סתם אדם ברחוב בלי סטודיו, בלי הכנה וגם בלי לבקש רשות. שנתיים מאוחר יותר חברו יחד שני עורכי דין מבוסטון, סמואל ד. וורן ולואיס ברנדייס, שיהיה לימים היהודי שהשפיע יותר מכל אחד אחר על מערכת המשפט האמריקאית כשופט בבית המשפט העליון. הם פרסמו מאמר ב"Harvard Law Review" שנפתח באבחנה חדה: "צילומים מיידיים ויוזמה עיתונאית פלשו למתחמים המקודשים של החיים הפרטיים והביתיים". המכשיר החדש הזה שמסתובב ברחובות, אנשים מצלמים באמצעותו, לפעמים הם אפילו מצלמים סתם עוברי אורח. השניים זיהו תופעה חברתית חדשה שנולדה מתוך התפתחותה של טכנולוגיה שלא הייתה קיימת לפני כן.

הם הבינו שטכנולוגיה היא חלק מקידמה שאנחנו מעוניינים בה, אבל גם שהכרחי לאסדר מחדש את אופן ההתנהגות של בני אדם בהינתן קיומה של טכנולוגיה חדשה. לכן, הם לא ביקשו לאסור את המצלמה. אבל הם כן ביקשו "להמציא" זכות שלא הייתה קיימת קודם לכן, הזכות להיעזב לנפשך, מה שמוכר היום הרבה יותר בתור "הזכות לפרטיות".

וורן וברנדייס, שזיהו את התופעה מוקדם, ניסחו את התפיסה שלהם ב-1890, אבל לבתי המשפט לקחו עשרות שנים לאחר מכן כדי להשלים את המהלך. הדפוס הזה מוכר: טכנולוגיה חדשה נכנסת, ואנשים מתאימים את עצמם, מהר יותר או פחות, לחיים בתוך המציאות החדשה שהיא בוראת. הרגולציה, המשפט והחקיקה מתחילים לרוץ אחרי המציאות. בישראל החלה ריצה חדשה כזו ממש הקיץ הזה.

יצא לי לעבוד הרבה בעשור וחצי האחרונים בחמ"לים ובמטות של קמפיינים פוליטיים וציבוריים. יצא לי בשנים האחרונות גם לעבוד המון עם כלי בינה מלאכותית. ומההיכרות שלי עם שני התחומים, יחד עם הידיעה של מה שעומד על הכף בחודשים הקרובים, אין לי ספק: בכל הצדדים של המפה הפוליטית הולכים לעשות כאן שימוש מתוחכם בבינה מלאכותית, כזה שיהיה קשה מאוד לשים עליו את האצבע ולנטר אותו. לפני פחות מחודשיים כתבתי כאן בבלוג שהחוק שעוסק בתעמולת בחירות עדיין מדבר בשפה של פעם, ושליושב ראש ועדת הבחירות אין סמכות של ממש מול תוכן שנוצר בבינה מלאכותית. מאז קרה משהו. חוק חדש נחקק, הכללים נכנסו לתוקף, והם כבר מתחילים להיאכף. זה צעד בכיוון הנכון, ללא ספק. אבל ההחלטה על חובת סימון של תוכן שנוצר בבינה מלאכותית היא רק ההתחלה, כי השאלה שתכריע את המלחמה בזיוף אינה אם הסימון קיים, אלא אם האכיפה מהירה מספיק.

בסוף יולי נכנסה לתוקף חובת הסימון על תעמולת בחירות. כל פרסום תעמולתי שכולל תוכן חזותי או קולי שנוצר או נערך באמצעים דיגיטליים, לרבות בינה מלאכותית, חייב בהודעת גילוי ברורה ובולטת. יושב ראש ועדת הבחירות, השופט נעם סולברג, קבע כללים באופן מאוד ספציפי: בתוכן מודפס או בתמונה הסימון בגודל של לפחות חמישה אחוזים מגובה התוכן, בניגודיות גבוהה ובגופן קריא. בסרטון נדרשת הודעת הגילוי לאורך כל משך ההקרנה. בהקלטה קולית בתחילתה ובסופה. האחריות מוטלת על המפרסם, והכללים חלים על כל תוכן שמתפרסם לראשונה מיום כניסתם לתוקף.

הבסיס החוקי הוא הוראת שעה בחוק הבחירות לכנסת העשרים ושש, שנחקקה כשבוע קודם לכן. החוק אינו נוקט את המילה דיפ פייק, הוא מכניס לעברית המשפטית מושג חדש, נחזות עמוקה, תוכן שנוצר באמצעי דיגיטלי ונחזה להיות מקורי. אבל הכוונה ברורה, וזו הנקודה: לראשונה יש למערכת כלי חוקי לחייב גילוי. בפברואר, בדיון הראשון על תמונה מזויפת של פוליטיקאים, כבר התברר שהחוק הישן לא נותן לוועדה כלים מעשיים מול תעמולה שנוצרת במכונה. מה שלא היה אז, יש עכשיו.

הדיוק של חמישה אחוזים ושל כל משך ההקרנה נראה טכני. הוא לא. סימון שאפשר לפספס אינו סימון. סימון שאפשר לקבור בפינה או להבהב לפריים אחד מתאדה. הדרישות המאוד ספצפיות האלה נועדו בדיוק לוודא שהסימן בלתי אפשרי להתעלמות.

האיום הוא על האמון, לא על הקלפי

ממלא מקום מנכ"ל ועדת הבחירות, עו"ד דין ליבנה, התראיין לאחרונה לכלי תקשורת, עם קו מאוד ברור של חתירה לחיזוק האמון בטוהר הבחירות בישראל. "ההצבעה בישראל", הוא אומר בראיון, "נעשית בפתק נייר, אי אפשר לפרוץ אותו או לגנוב אותו". אבל מה שכן אפשר לעשות הוא לגרום לציבור לחשוב שגנבו את הבחירות, להשתמש בפייק ניוז ובבינה מלאכותית כדי לעשות מניפולציות על האמון שלנו בתהליך ולהראות דברים שלא קרו.

זו אמירה מדויקת, ויש מה להתעכב עליה. רוב הדיון על טוהר הבחירות עוסק במנגנון ובפרוצדורה: מי סופר, מי מפקח, איך מאבטחים את הקלפיות. כאן המערכת אומרת בקול רם דבר אחר. המנגנון הישראלי מאובטח דיו, והנקודה החלשה אינה בו. החוליה החלשה היא בראש של הבוחר. ולכן הרגולציה הזו היא לא רק רגולציה של טוהר ההצבעה. היא רגולציה של אמון. זה דבר חדש בשיח הישראלי. זו טריטוריה לא חרושה שכולנו, אזרחי ישראל, צועדים בה לראשונה.

ועכשיו לשאלה שכולם שואלים: האם הסימון ימנע לחלוטין זיופים. התשובה הדי ברורה היא שלא, מפני שדרישת גילוי בנויה על הנחת יושר. מי שמפרסם בתום לב יסמן את התוכן שלו. מי שמתכוון להטעות מראש פשוט לא יסמן, וזו בדיוק מהותה של הטעיה. חובת הגילוי לא נועדה לתפוס את השקרנים. היא לא יכולה.

אבל לא, זה לא אומר שמדובר באות מתה. ממש לא. הסימון עושה שלושה דברים, גם אם הוא לא הולך לתפוס את מי שמתכוון באמת להטעות ולרמות. ראשית, הוא מציב סטנדרט של יושר גלוי: המפלגות והקמפיינים הממוסדים נאלצים להצהיר, ומי שלא יצהיר על שימוש בבינה מלאכותית יבלוט לרעה. שנית, הוא נותן לציבור קטגוריה: יש תוכן מסומן ויש תוכן שאינו מסומן, וההבחנה הזו עצמה היא החיסון הראשון. ושלישית, הוא הופך את הסימון לנורמה שמורגלת בעין, ואחרי שנורמה מורגלת, היעדרה מורגש. אלה הישגים אמיתיים. והם עשויים להיות צעד ראשון וחשוב ביצירת נורמה של שקיפות וגילוי בחיבור שבין קמפיינים פוליטיים ותוכן AI, אבל הם לא מבטיחים אכיפה.

אנחנו נמצאים כבר עמוק בתוך המציאות שמשלמת את מה שתהילה שוורץ אלטשולר קוראת לו הדיבידנד של השקרנים. כשהכול ניתן לזיוף, גם התיעוד האמיתי הופך להכחשה נוחה, כי כל אחד יכול לטעון שסרטון שהוא לחלוטין אמיתי, הוא בעצם מזויף. אחד הדברים שמנסה חובת הסימון לעשות, בין היתר, זה להגן על האמינות של מה שלא מסומן. של תוכן מדיה, בין אם בהקלטות, תמונות סטילז או וידאו, של דברים שקרו באמת.

המבחן האמיתי הוא המהירות

חובת הגילוי וסימון התוכן הם צעד בכיוון הנכון, אבל מי שמתבונן רק בסימון רואה חצי משדה הקרב. החצי השני הוא מהירות, ושם יוכרע הכול.

באקולוגיית המידע של היום, פייק יכול להפוך ויראלי תוך דקות, ולנוע במהירות דרך קבוצות טלגרם או וואטסאפ. ברשת הפתוחה יש מי שמפרסם הכחשה, מי שבודק, מי שמתקן. בקבוצה סגורה אין אף אחד מאלה. שם אפשר בקלות להפיץ דיפ פייק בלי להתפס, והתוכן ממשיך לחיות שם הרבה אחרי שהרשת הפתוחה כבר שכחה ממנו.

הזיוף נע במהירות האור (או השיתוף). האכיפה זזה במהירות הביורוקרטיה. התלונה תיכתב אולי תוך שעות במקרה הטוב, אבל הויראליות נמדדת בדקות. זה הפער שבו תוכרע המלחמה על האמת בבחירות האלה. לא רק בשאלת מיקום הסימון או גודל ובולטות הגופן.

ויש קושי עמוק עוד יותר, שמחמיר את פער המהירות. חובת הסימון כולה נשענת על הנחה שאפשר לדעת מתי תוכן נוצר בבינה מלאכותית, אחרת אין מה לסמן. אבל השימוש המתוחכם, זה שעליו דיברתי, מתוכנן מלכתחילה כך שאי אפשר להצביע עליו. לא סרטון גס של לחיצת יד שלא הייתה, אלא עריכה עדינה, קול שתוקן, רקע שהוחלף, פרט קטן שנשתל. מול זה האכיפה לא רק מאחרת, היא לפעמים לא יוצאת לדרך כלל, כי איך מחייבים גילוי על דבר שאיש לא הצליח להוכיח שהוא קיים.

הדרך הכי טובה להבין את טיב ההחלטה החדשה של יו"ר ועדת הבחירות היא לראות מה קרה מאז שנכנסה לתוקף. ביום הראשון, 26 ביולי, הורה השופט סולברג לשר האוצר בצלאל סמוטריץ' להסיר סרטון שנוצר בבינה מלאכותית, ובו נראה גדי איזנקוט לוחץ יד לאבו מאזן כשלצדם מנסור עבאס. האירוע הזה לא קרה מעולם. ההערה "נוצר עם AI" שכבר הופיעה בסרטון נפסלה כבלתי מספקת בגלל אופן הצגתה בפייסבוק, והוטלו הוצאות של עשרת אלפים שקלים על מפלגת הציונות הדתית. ימים ספורים אחר כך פרסם יונתן אוריך, יועצו החשוד בפלילים של ראש הממשלה, סדרת ציוצי תעמולה שנוצרו בבינה מלאכותית בלי גילוי, ולאחר מכתבי התראה מחק אותם.

בתחילת אוגוסט קרה דבר אחר, והוא מלמד לא פחות. בעתירה של הליכוד נגד מפלגת ישר קבע סולברג שהאיסור הוותיק על שימוש בחיילי צה"ל לתעמולת בחירות חל גם על דמויות חיילים שנוצרו בבינה מלאכותית, והורה להסיר את הסרטון. זה כבר לא כלל הסימון. זה הכלל הישן שמתרחב ומגלה שהדיפ פייק לא מזייף רק פנים וקולות. הוא מזייף סמלים, מדים, הילה של מוסד ממלכתי, והרגולציה לומדת את זה צעד אחר צעד, מקרה אחר מקרה. אבל צריך לחזור ולומר, קל לאכוף את החוק החדש על סרטון או תמונה שפורסמו ברשתות מול עיני הציבור כולו. יש מי שיראה ויעתור לועדת הבחירות. ויו"ר ועדת הבחירות מראה, לפחות עד עתה, שהוא לא מתכוון לשחק משחקים עם ההחלטה שלו. אבל זה המקרה הקל. המבחן האמיתי הוא ההעברה האנונימית בקבוצת ווואטסאפ סגורה, שאיש לא עותר עליה, שאיש לא מזהה בזמן אמת. שם לא תהיה ועדת בחירות שיכולה להגיב, ושם התוכן המזויף ימשיך לחיות לנצח.

חודש לתוך ההחלטה של יו"ר ועדת הבחירות ואנחנו זוכים לחיות בתוך מעבדת ניסוי, שבודקת איך מדינה חפצת חיים ודמוקרטיה, שעומדת מול מציאות מורכבת של חברה מפולגת מתמיד בתקופת בחירות, מתמודדת עם העידן הטכנולוגי החדש שנכנסנו אליו.

עם כל הכבוד לבינה מלאכותית, צריך כאן בינה אנושית

וכאן חוזר מה שכתבתי לפני פחות מחודשיים, שההגנה היציבה החשובה ביותר מפני פייק בתקופת הבחירות (ובכלל) היא אזרחים ביקורתיים. האכיפה תמיד תפגר אחרי הזיוף, ומישהו צריך לסגור את פער המהירות. מי שיכול לסגור אותו הוא רק הבוחר עצמו והסביבה המיידית שלו. הסימון לא מחליף את שיקול הדעת. הוא נותן איזשהי נקודת אחיזה, קטגוריה של מסומן ולא מסומן, כדי שבשניות שבהן ההכחשה עדיין בדרך, מי שמחזיק את הטלפון יעצור ויחשוב כמה פעמים לפני שיתוף.

הבחירות הקרובות יוכרעו בשאלה אחת: מה מהיר יותר, השקר שרץ מקבוצה לקבוצה, או מי שאמור לעצור אותו. הסימון הוא צעד בכיוון הנכון, אבל הקרב האמיתי לא יהיה על גודל הגופן או על מיקום הסימון. הוא יהיה על מהירות. במלחמה בין שקר שנע במהירות האור לבין תיקון שנע במהירות הביורוקרטיה, האזרח שמזהה ועוצר לפני שיתוף, או מזהה ומתריע על תוכן בלתי מסומן, הוא מה שיכריע את המאבק בפייק.