המומחית שמזהירה: האויבים שלנו מתכננים מודל חדש למלחמה

ד"ר תהילה שוורץ-אלטשולר, בשבוע שעבר נעצר בצרפת מייסד טלגרם פאבל דורוב. הוא מואשם שאפשר את קיומן של פעילויות לא חוקיות ברשת בגלל היעדר מוחלט של פיקוח. זו התחלה של מגמה?
"זו הקצנה של מגמה. זה התחיל כשראשי פלטפורמות כמו מטא, גוגל, אפל ואמזון עמדו בשנים האחרונות מול שימועים בקונגרס ובסנאט האמריקאיים. כמו כן, חברות הביג-טק ספגו תביעות וקנסות, בארה"ב ובאירופה.

● מסך העשן של איראן: תוכנית הגרעין צוברת תאוצה בזמן המלחמה
● נשק גרעיני תמיד מנע פלישות. ואז חדרו חיילים אוקראינים לרוסיה

המקרה של דורוב - זו הפעם הראשונה שהרשויות האירופיות אומרות בבירור: נגמרה ההפרדה בין מי ששולט בפלטפורמה לבין מי שעושה בה שימוש לרעה. דורוב עלול ללכת לכלא אבל אני לא חושבת שטלגרם תיסגר.

"המעצר הזה מלמד שהספינה משנה כיוון, אם כי עדיין רק באירופה. לארה"ב עדיין קשה לוותר על התפיסה הרומנטית של חופש הביטוי".

כן יש כוונה לחסום את טיקטוק בארה"ב. ניתן לה אולטימטום: מכירה לחברה אמריקאית או הפסקת הפעילות. ההליכים המשפטיים עדיין נמשכים.
"כי בארה"ב הבינו שהמדינות הלא דמוקרטיות שולחות את זרועותיהן לתוך המערב, לתוך המוחות שלנו, לתוך התרבות שלנו, לתוך היציבות של מדינות המערב, והן עושות זאת באמצעות הפלטפורמות הדיגיטליות. לכן אנחנו צפויים לראות שינויים מהסוג הזה מתרחשים גם בארה"ב, אולי לא ברמת האכיפה שיש כיום באירופה. אבל זה יקרה".

ברזיל הולכת אפילו רחוק יותר. בשבוע שעבר בית המשפט העליון שם הורה לחסום את הגישה לרשת X של אילון מאסק, כי לא נענה לצו לחסום חשבונות מסוימים, שלפי הנאמר הפיצו תכנים "נאציים, גזעניים, פשיסטים, רוויי שנאה ואנטי-דמוקרטיים".
"בשנתיים-שלוש האחרונות מאסק מבטא תפיסות שמדברות על חופש ביטוי מוחלט. ברגע שמותר לעשות הכול ולהגיד הכול, נכנסים הקרימינלים והניאו-נאצים. מאסק מבין היטב שמבחינת אירופה הוא הבא בתור, והוא גם צייץ בדיוק את זה ('היום זו טלגרם ומחר זו X' - ה"ו). הוא פוחד ובצדק. זה לא תרחיש בדיוני".

נחזור לטלגרם והנוכחות הדרמטית שלה ב-7 באוקטובר. את מכנה את חרבות ברזל כמלחמה הפיג'ידטלית הראשונה, מלחמה שמשלבת בין הממד הפיזי לממד הדיגיטלי באופן שכמותו לא ראינו בעבר. למה?
"כבר ראינו מלחמות שיש בתוכן אלמנט דומיננטי של סייבר, כמו רוסיה-אוקראינה. אבל מלחמה שבה הממד הפיזי, לחימה ביבשה, באוויר ובים, והממד הדיגיטלי, כמו תיעוד הזוועות בטלגרם, משולבים כך זה בזה - אני לא חושבת שראינו. לכן צריך לחשוב על עצם המושג שנקרא מלחמה בעיניים חדשות".

את יכולה לתת דוגמאות?
"המחבלים פרצו דרך הגדר ולבתים של תושבי העוטף עם מצלמות גו-פרו על הראש. למה צריך לצלם כל דבר? למה חלק נכבד מהעולם של המלחמה הוא החשיבה על הסרטון שאחר כך יצא ממנה? זו חשיבה של טרור. מלחמות עושים כי צריך לתפוס שטח. טרור עושים כשרוצים להפחיד. כשמשלבים את שני הדברים האלה בעידן הדיגיטל, מתקבל מה שז'אן בודריאר קורא לו 'התיאטרון של הטרור'. קיבלנו מעשי זוועה שנועדו לצילום ולשידור אחר כך ברשתות החברתיות.

 מחבלי חמאס מתעדים את עצמם ב-7 באוקטובר. ''אירועים שתוכננו לדיגיטל'' / צילום: Associated Press

"אירועי 11 בספטמבר בארה"ב תוכננו לטלוויזיה. אירועי 7 באוקטובר - אני חושבת שהם תוכננו לדיגיטל. אם להיות יותר ספציפית, הערוץ Gaza Now בטלגרם (ששייך לחמאס - ה"ו) שזינק ל-2 מיליון עוקבים אחרי המלחמה, נפתח כנראה עבור אירוע מסוג זה. כך נוצרת ספירלה של העברת מידע, שבסוף מגיע לכל כלי המדיה".

אם להתמקד ב'כלי הנשק' של המלחמה הפיג'יטלית הזאת, הרי שמדובר באמצעים שנמצאים בבעלות חברות פרטיות - טלגרם, מטא, גוגל ואחרות.
"נכון, המרחב של המלחמה נמצא בבעלות פרטית, וזה הופך את מי ששולט בחברות המדיה החברתית ובחברות שמספקות שירותי אינטרנט לווייני, כמו סטארלינק של אילון מאסק, לשחקניות סדר עולמי. ברמת ההשפעה אלה שחקנים שצריכים לשבת סביב שולחן מועצת הביטחון של האו"ם. יש להם השפעה על האופן שבו נראית מלחמה, מי מנצח ומי מפסיד, למי יש יותר כוח ומהו הנרטיב של המלחמה. אבל יש ואקום עצום באסדרה. אין לנו כלים של סדר עולמי כדי להתמודד עם הדבר הזה".

למה הכוונה?
"אין אמנת ז'נבה של הדיגיטל או של הסייבר. אין כללים שקובעים מה מותר ומה אסור לעשות. אין כללי אחריות לחברות האלה בסכסוכים בין מדינות, אין מאזני אימה ואין הסכמי הרס הדדי".

"במלחמה הבאה נקבל הודעות AI של דובר צה"ל"

בואי נכניס למשוואה את הבינה המלאכותית. עוד שחקן בסדר העולמי, אם כך, הוא מייסד OpenAI סם אלטמן. יש כמובן גם שחקנים משמעותיים לצדו.
"האסוציאציה שלנו בהקשר הזה היא יצירת תמונות או סרטי וידאו באמצעות בינה מלאכותית גנרטיבית. אני מדברת על השפעה שהיא הרבה יותר רחבה. הרי כל מערכות המלצות התוכן בתוך הרשתות הן מבוססות AI. האלגוריתם של פייסבוק מחליט לאיזה תוכן איחשף לפי פרסומים של החברים שלי. זה מה שמכונה הנדסה חברתית. אפשר לשאול אם הסרטון שיוצר ב-AI הוא אמיתי או לא. אבל השאלה היותר חשובה היא אם ואיך הוא מגיע ל-5 מיליון אנשים בתוך חמש דקות".

במחקר שהובלת באחרונה עם ענבר יסעור גיליתן שגורמים עוינים עושים שימוש בכלי AI כדי ליצור טקסטים רבים בעברית שאף אחד לא זהה לאחר. מה ההיגיון בזה?
"המטרה היא ליצור רשת השפעה, שכוללת המון חשבונות מזויפים ברשת חברתית. אם נניח גורמים עוינים מפיצים את אותו הטקסט דרך פרופילים שונים, אז הפלטפורמה כנראה תדע לזהות שזו פעילות לא אותנטית ותחסום את השימוש. יש בינה מלאכותית שתפקידה לסרוק את הרשתות ולחפש פעילות לא אותנטית. אבל אם הטקסטים הם שונים, זו דרך טובה 'לעבוד' על המכונה. בעזרת כלי AI אפשר לייצר היום טקסטים בעברית אותנטית ומשכנעת.

"זה יכול להיות 'מחר אנחנו הולכים לשחוט את כולכם', שזה מסר מאוד ישיר. אבל זה יכול להיות גם 'אל תאמינו לביבי. כל מה שהוא רוצה זה לסכל את עסקת החטופים'. כך מעצימים שנאה בתוך החברה ומקצינים את השיח. אפשר היום ליצור חשבונות מזויפים ברשתות חברתיות שנראים אמינים מאוד, עד לרמה של בחירת שם המשתמש. אם את כותבת 'אסתר המלכה', את יודעת שזה לא אמיתי. 'דנה מרעננה' זה כבר חצי משכנע. אבל פתאום את מבינה שהמכונות יודעות לג'נרט שמות שנשמעים אותנטיים לגמרי וגם לייצר תמונות פרופיל משכנעות מאוד".

הבינה המלאכותית הגנרטיבית מצטיינת כבר היום בייצור טקסטים ואף קובצי קול בצורה אמינה מאוד. איך היכולות האלה בלבד יכולות לעצב את המלחמה הבאה?
"סליחה שאני הולכת לדמיין מעשי זוועה, אבל אני אומרת לעצמי: אם מישהו רוצה לפרום את הרקמה של החברה הישראלית, יש לו את האמצעים לעשות זאת כבר עכשיו. ב-7 באוקטובר האמון בין הציבור למדינה נפרם כי אנשים נרצחו בביתם.

"במלחמה הבאה נקבל הודעות בקולו של דובר צה"ל דניאל הגרי, שאומר לנו להתחיל לצבור מזון וגם ללכת לשכנים ולאסוף מהם אוכל, כי אחרת לא יישאר לילדים שלנו. אם מישהו רוצה לשבור את החברה הישראלית, הוא צריך לשבור את האחווה שלנו, את הערך הבסיסי הזה שלפיו שכן עוזר לשכן. אני חוששת שעוד אין מספיק אנשים שמבינים את גודל הסכנה. צה"ל עסוק מאוד בסייבר. אני מבינה את זה, אבל האויבים שלנו מתכננים את הדבר הבא".

הבוטים שישפיעו על הבחירות

נראה שהפורום הכלכלי העולמי מבין את גודל הסכנה. בתחילת השנה הוא הכריז על פייק ניוז כעל הסכנה הכי גדולה לאנושות כיום, יותר ממשבר האקלים ומלחמות בין מדינות.
"אני חושבת שיש הבנה של הפורום הכלכלי העולמי שאנחנו לא יכולים לנהל דיונים על אקלים ועל הגרעין בהיעדר היכולת לברר את המציאות".

עד כמה פייק ניוז בעידן ה-AI עלול להיות גורם משבש בבחירות הדרמטיות לנשיאות ארה"ב, שיתקיימו ב-5 בנובמבר? ראיתי לדוגמה תמונה מזויפת שהפיץ טראמפ ברשתות החברתיות שבה נראית טיילור סוויפט כשהיא חובשת כובע אדום ועליו הכיתוב Make America Great Again. זו תמונה שנראית אמיתית לגמרי.
"מה שהכי מטריד בעיניי בהקשר הפוליטי הוא יכולות השכנוע שיש למודלים גדולים של שפה, כמו ChatGPT-4. כשמודל כזה מקבל קצת חומר רקע עלייך ומנסה לשכנע אותך במשהו, היכולת שלו להצליח בכך גבוהה ב-85% בהשוואה למצב שבו אדם אמיתי מנסה לעשות זאת".

נשמע מטריד מאוד. איך יכולת כזו תיושם במסגרת קמפיין בחירות?
"תחשבי מה עשו פעם בקמפיינים של בחירות. 100 טלפניות קיבלו משימה להתקשר לעוד ועוד אנשים כדי לשאול למי הם מצביעים ולנסות לשכנע לשנות כיוון. כעת יש מערכות שפועלות בלי שום מגבלה של זמן. הן לא מתעייפות, הן יודעות להראות אמפתיה ויש להן יכולות שכנוע מטורפות. אנחנו נכנסים לעידן שמכונה ההיפר-שכנוע".

אפשר להמחיש זאת? איך בדיוק הבוט הזה יפנה אליי?
"זה יכול להיות בוט שיתקשר אלייך בטלפון או יתחיל להתכתב איתך בוואטסאפ. את תחשבי שמדובר אולי באמא מהוועד של בית הספר, שיצרה איתך קשר כדי לקבל אינפורמציה ולדבר על הבחירות. את תרגישי מוחמאת מזה שיש לה כל כך הרבה סבלנות אלייך ולרעיונות שלך. יקשיבו לך ויענו לך, ולאט לאט גם תרגישי שאת אפילו מאמצת חלק מהרעיונות של בן או בת השיח שלך. במקום הזה יש הרבה מאוד דברים שאנחנו לא מתקרבים לגרד אותם. חלק מזה נראה כבר בבחירות הקרובות, אבל הרבה מזה עדיין לא".

הוועדה הבינלאומית לבינה מלאכותית

עד עכשיו שרטטנו את הסכנות. בואי נדבר על פתרונות.
"המדינות הגדולות צריכות לקחת אחריות וכן צריך מוסדות. כפי שיש את ארגון הבריאות העולמי וסבא"א לגבי הגרעין, נדרשים מוסדות שיפקחו על AI. ברמת הרגולציה יש התקדמות. אבל עדיין קיים פער מאוד גדול בין ארה"ב לאירופה. בארבע-חמש השנים האחרונות אירופה אימצה חבילת חקיקה דיגיטלית מקיפה מאוד. היא נותנת לחברות הביג-טק קנסות מטורפים - בהיקפים של עד 10% מהמחזור - על הפרות ושימושים לרעה במידע פרטי. קנס מסוג זה יכול לגרום לירידה בערך המניה. ראינו זאת בקנס של 1.3 מיליארד ד ולר שאירלנד הטילה על מטא במאי 2023 בגלל הפרות בתחום הפרטיות.

"בתחילת החודש נכנס לתוקף חוק הבינה המלאכותית האירופי. צריך להבין, AI הוא לא בגדר משהו שעלול לקלקל לנו בבחירות. זו מלחמה. מדינות שיש להן שפה ייחודית (על תוכן באנגלית ובשפות שגורות באירופה יש יותר רגולציה - ה"ו), שהדמוקרטיה שלהן יותר שברירית ושיש בהן איומים ביטחוניים כמו ישראל - שם החשיפה לנזקים תהיה גדולה יותר. לכן הרשתות בישראל רעילות הרבה יותר בהשוואה לאירופה וארה"ב".

באלגוריה לעולם התרופות, כפי שישראל מאמצת לרוב אישורי בטיחות מה-FDA, כך היא יכולה לאמץ חקיקות מחו"ל בתחומי הדיגיטל?
"כן. בהקשר הזה אני אומרת: בואו נהיה הזבוב שיושב על גב הפיל. כפי שיש את הרפורמה בתחום היבוא, 'מה שטוב לאירופה, טוב לישראל', נעשה את אותו הדבר בדיגיטל. האירופאים יצרו רגולציה. לא צריך להעתיק אותה, אבל בוודאי שאפשר לגייר אותה. בואו נשתמש בכל הטמפלטים של ניהול סיכונים שהם כבר יצרו עבור החברות.

"ברמה היותר כללית כבר יש היום פיצ'רים די פשוטים שמיושמים בהרבה מהרשתות, ויכולים למנוע התפשטות של תוכן בעייתי. למשל, אפשר להגביל את גודל הקבוצות בטלגרם ל-200 איש, כמו בוואטסאפ, במקום קבוצות שכוללות 200 אלף איש. יש מי שחושב שהרשתות הן מפעל שיצא משליטה ואין מה לעשות. אני חושבת שיש מה לעשות. זה דורש מאיתנו להפשיל שרוולים, להכניס את הידיים לבוץ ולייצר פתרונות".

ועוד לא ראינו את מלחמת ה-AI הראשונה.
"נכון. מלחמת ישראל-חמאס היא לא מלחמת ה-AI הראשונה במובן זה שעוד לא יושם בה מכלול היכולות של הבינה המלאכותית. למשל, פלטפורמת הווידאו של חברת OpenAI, ששמה Sora, הושקה בפברואר 2024. היא עדיין לא פתוחה בכלל לציבור הרחב".