כטב''מ בשמי הארץ / צילום: Reuters, Raneen Sawafta
בספר "תנינה במישור החוף", מאת טלי כהן־צדק, מגלה יום אחד גיבורת הספר, שירה, שנתניה נעלמה לה. היא נוסעת בכביש החוף, והעיר פשוט אינה נמצאת. בהדרגה, מתברר שבוצעה בשירה מניפולציה שגורמת למוח שלה לא לראות דברים מסוימים שהיא ביקשה להסתיר מעצמה. במקרה הזה, עיר שלמה.
היום עדיין קשה לגרום לעיניים שלנו לא לראות דברים, אם כי כולנו הפכנו מומחים בלהדחיק את מה שאיננו רוצים לראות. אבל בקרוב, עם התקדמות הטכנולוגיה, אנחנו צפויים לראות פחות דברים במו עינינו, ויותר באמצעות מכונות, ונהיה חשופים מאוד למניפולציות מהסוג הזה.
● חזית המדע | המדענית בת ה־36 שפיתחה תרופה לסרטן שכבר נמכרת במיליארד דולר
● חזית המדע | למה מדינות מסוימות הן עשירות ואחרות עניות? התיאוריה שזכתה בנובל, הגרסה הישראלית
● חזית המדע | "הצלת בעלי חיים הייתה סוג של תיקון": המחקר שבחן את היחס שלנו לחיות במלחמה
לרמות את המכונה עם מדבקה
קחו לדוגמה תמרור. הוא נראה רגיל. יש עליו קצת לכלוך, אולי מדבקה שמישהו הדביק עליו מסיבותיו הוא. מצוידים בעין אנושית בלבד, לא נחשוב שחתיכת הלכלוך הזאת היא התקפת סייבר מתוחכמת. אך כאשר מערכת בינה מלאכותית לנהיגה אוטונומית תביט בתמרור, לא רק שהיא לא תוכל לזהות אותו, אולי היא תראה בו תמרור אחר לגמרי ותגרום תאונה. המתקפה הזאת, בסך־הכול מדבקה על חפץ פיזי, מבוססת על הבנה עמוקה של ההבדלים בין האופן שבו מכונה רואה לבין האופן שבו בני אדם רואים.
התקפות כאלה, מזהיר פרופ' עופר הדר, חוקר ומרצה בבית הספר להנדסת חשמל באוניברסיטת בן גוריון, הן הדור הבא של לוחמת סייבר.
הדר הדגים במעבדה שלו כיצד יכולה להתבצע התקפה כזאת, במסגרת מאגד Trust AI במימון רשות החדשנות. הוא הדביק מדבקות על תמרורים במקומות שנחסמו לצורך כך, ובשעות שבהן התנועה דלילה, והראה כיצד הוא יכול לגרום לרכב אוטונומי לטעות, וגם כיצד הוא יכול למנוע את המניפולציה.
"אנחנו יכולים לאמן את מערכות הבינה המלאכותית על מערכות 'מקולקלות', כדי שהן יוכלו קודם כול לזהות דפוסים של מניפולציה ולהבין אילו תמונות הן לא צריכות להביא בחשבון. ואז, אנחנו יכולים באמצעות בינה מלאכותית ג'נרטיבית ללמד אותן כיצד להשלים את החסר ולראות את התמונה הנכונה".
בעתיד, אומר הדר, מלחמות יתקיימו באמצעות רובוטים במקום חיילים. כבר היום כטב"מים לא מאוישים הם גורם מכריע במלחמה, ומשתמשים לא מעט בעיבוד מבוסס בינה מלאכותית של תמונות וידאו, אך בעתיד כלים רבים יותר גם על הקרקע יתומרנו על ידי מפעילים מהעורף. בעולם כזה, היכולת לעבוד על מערכת הבינה המלאכותית שמולך ולומר לה שכטב"ם הוא ענן, או שחייל הוא סלע, תהיה הבסיס להצלחה במלחמה.
"אנחנו מעריכים שהכטב"ם שתקף את הבית של ראש הממשלה בנימין נתניהו אומן למצוא אותו לא רק באמצעות מערכת זיהוי מיקום, אלא גם באמצעות תמונה, שהנחתה אותו כיצד להיכנס בדיוק לתוך חלון מסוים בבית. אם אנחנו רוצים להימנע מכך, אנחנו יכולים לשים על החלונות שלנו כל מיני מדבקות משבשות־תמונה, שישכנעו את הכטב"ם שכאן בכלל לא נמצא חלון".
איום מפיקסלים של תמונות
המעבדה של הדר עוסקת בעיבוד תמונה ובהעברת תמונות על גבי רשתות, ובוחנת בין את השאר היבטים הקשורים לבטיחות. מדבקה על תמרור היא דוגמה אחת לצורת תקיפה חדשה, אבל היא לא היחידה.
גם תמונה או וידאו יכולים להיות גורם תוקפני. "וידאו ותמונות מכילים הרבה מידע שיש בו יתירות", אומר הדר. "על כך מבוססות טכנולוגיות הדחיסה שמאפשרות את התעבורה המטורפת של מידע בווידאו ובתמונות על גבי הרשתות שלנו. אם לא הייתה יתירות ולא הייתה דחיסה, ילדה אחת עם טיקטוק הייתה מייצרת מידע בכמות שיכולה להפיל את כל שרתי האינטרנט בעולם. אבל היתירות משמעותה גם שאפשר לדחוף לתמונה או לווידאו מידע שלא נראה בעין האנושית.
"לדוגמה, אם אנחנו משנים רק במעט גוון אפרפר של פיקסל בתמונה מסוימת", אומר הדר, "אף אחד לא יראה שמשהו מיוחד בתמונה הזאת. אבל אם אנחנו רוצים לשלוח מסר מוצפן, אנחנו יכולים בשינוי הפיסקל הזה בעצם להעביר אינפורמציה, ומי שיודע זאת בצד השני יכול לקרוא את התמונה ולחלץ ממנה אינפורמציה. יש אפילו טענה שאל־קאעדה השתמש בשיטות הללו כדי להעביר מידע בין הפעילים לפני התקפות 11.9".
"בווידאו אפשר להכניס המון מידע"
גם מכונות יכולות לקרוא את המידע הסודי המוצפן. "אם אנחנו יכולים לשתול אצל הצד השני קוד זדוני קטן, אנחנו יכולים כעת להתחיל להזרים לו מידע דרך תמונות שאנחנו משדרים לו", אומר הדר. "נניח שהצלחתי להשתיל קוד זדוני במקום שמאובטח במצלמות, ועכשיו אני כל יום עובר בסביבה כשאני לבוש בחולצה שיש עליה תמונה מסוימת של חתול חמוד. אני בעצם משתמש במצלמות האבטחה כדי להזין את הקוד הזדוני שלי בהמון מידע, שבו הוא יכול להשתמש כדי לתכנן ולתזמן התקפה. התמונה יכולה להיות פיזית או דיגיטלית, כל עוד מוצאים את הדרך לשכנע את המערכת שהיא צריכה לקרוא אותה. בתמונת סטילס אפשר להכניס מעט מידע, ובווידאו - המון".
למשל, הודעת ביפר שאומרת שעכשיו הגיע הזמן להתפוצץ.
"בביפר אין כמובן תמונה, אבל זה הרעיון. אנחנו שותלים את מערכת ההפעלה של ההתקפה במוצר מראש, ואז מעבירים, במקרה שלנו באמצעות התמונה ובמקרה של הביפרים כנראה דרך הודעה, את המסר שעכשיו הגיע הזמן לפעול".
כשמערכות צריכות לקבל החלטה על בסיס תמונות, זו עוד פירצה שמאפשרת "לשחק להן בראש". "נניח, מערכת רפואית שמאבחנת גידולים כסרטניים או שפירים. בשינוי של כמה פיקסלים בתמונה, אפשר להוביל לאבחנה לא נכונה, למנוע טיפול בסרטן או לגרום לטיפול מיותר, וכך לפגוע באדם בלי שיידע שמישהו בכלל פגע בו. או אם מישהו רוצה שיאבחנו אותו במחלה שאין לו כדי להגיש תביעת ביטוח שקרית. הרעיון הוא שהשינוי הוא מזערי, ופתולוג בן אנוש כלל לא יראה אותו.
"ניתן גם למלא מערכת כזאת במידע מוטעה, או בהמון תמונות רועשות שיפגעו באפשרות שלה ללמוד ולקבל החלטות. מי שיש לו עניין בכך הוא למשל גורם שרוצה לפגוע באמון הציבור במערכות הללו, כמו סוכני הכאוס ברשתות החברתיות".
אתה לא חושש לדבר על האפשרויות הללו ולתת לאנשים רעיונות?
"זו תמיד השאלה עבור חוקרי סייבר. אנחנו חייבים להיות יצירתיים יותר ולחשוב על התקפות שטרם נעשו, כדי להקדים את התוקפים. יש חוקרים שרק מציעים דרכי תקיפה, ואילו אני אוהב להציג את דרכי התקיפה רק לאחר שכבר פיתחתי אפשרויות של פתרון".
הסיבה לדיליי במשחק כדורגל
הדר חוקר את הממשק בין בינה מלאכותית לבין תמונות לא רק בתחום הסייבר. כחוקר של טכנולוגיות דחיסה, הוא אחד בין כמה ישראלים שחברים בוועדת התקינה של פורמט הדחיסה JPEG. "ישראלים שולטים ב־JPEG", הוא אומר בגאווה ומוסיף שתחום הדחיסה עומד לעבור שינויים מפליגים בזכות הבינה המלאכותית.
דחיסה מבוססת על העובדה שמידע רב בתמונות ובווידאו חוזר על עצמו. בתמונה, אנחנו יכולים לומר למשל למערכת שבלוק שלם של שמים הוא בגוון אחד של כחול. בסרטון וידאו, שהוא בעצם אוסף של תמונות בזו אחר זו, לפעמים ההבדל בין שתי תמונות עוקבות הוא מזערי. במקום להעביר שוב את כל התמונה, אפשר רק לשאול 'מה נשתנה' מהתמונה הראשונה לשנייה.
"טכנולוגיית הדחיסה כבר יודעת לחלק את התמונה לבלוקים ולחפש בפריים הנוכחי איפה נמצא הבלוק המתאים מהפריים הקודם, ומה השתנה בו, ואז לשדר רק את המיקום הבא ורק את השינוי".
גם הדיליי בשידורי טלוויזיה קשור בדחיסה. "נניח שהחלטנו לשדר פריים מלא אחד מכל 16 פריימים, ובשאר הפריימים לשדר רק את ההפרשים, אבל אז פתאום בפריים 4 היה קאט. ייתכן שהפריימים 5־15 הרבה יותר דומים לפריים 16 מאשר לפריים הרפרנס הראשון. מבחינת דחיסה, משתלם לנו לחכות לפריים ה־16 כדי לבדוק זאת, אבל המחיר יהיה דיליי בשידור".
מה תעשה הבינה המלאכותית? "נניח שאנחנו רואים כעת פריים. יש לנו (ובוודאי ל־AI) יכולת לא רעה לנבא איך ייראה הפריים הבא ו'לג'נרט' אותו. נניח שהמערכת מג'נרטת את הפריים הבא באופן זהה גם במקום שבו מתרחש השידור וגם אצלנו בבית, ואז המערכת במקור השידור משווה את הניבוי למה שקרה בפועל, ומעבירה לנו רק את ההפרש. למשל, עם תחילתו של מהלך במשחק כדורגל, הבינה המלאכותית תוכל למעשה לג'נרט את התמונה של האופן שבו היא מעריכה שהמהלך יתפתח. אנחנו נראה תמונה מנובאת. המידע שישודר בפועל יהיה רק התיקון במקום שבו הייתה הפתעה. הרבה מהווידאו שלנו עומד להיות ג'ינרוט־תיקון, ולא העברה של מידע 'אמיתי'.
"האיכות צפויה לעלות דרמטית עם ירידה ברוחב הפס", מסביר הדר מה אנחנו מרוויחים מזה. "ואולי העתיד הוא שבכלל מה שיעבור על גבי הרשת הוא תסריט, טקסט מפורט, והבינה המלאכותית תג'נרט את כל הסרט אצלנו בבית. גם זה סוג של דחיסה. עד עכשיו הגורמים בתעשיית הקולנוע ששבתו בגלל החשש מבינה מלאכותית היו התסריטאים, אבל בתרחיש הזה התסריטאי הוא היחיד ששומר על עבודתו".
הקשר בין קצב מעבר הווידאו להצלחה בקרב
הטכנולוגיות האלה חשובות גם לרכב האוטונומי. "ברור שעם תחילת השימוש בכלי הרכב הללו יהיו גם תקלות, ואחד המענים לתקלה הוא לאפשר לבן אנוש להשתלט על הרכב מרחוק ולכוון אותו למקום מבטחים. כמובן, הוא יצטרך לראות את מה שרואה הרכב בזמן אמת וברזולוציה גבוהה. ערכנו מחקר שבו טייבנו את הדחיסה של תמונה כזאת על גבי תשתית סלולרית לא כל־כך טובה, והיה צריך להקדיש הרבה מחשבה לגבי איזה מידע חשוב ולא חשוב לאדם בסיטואציה כזאת".
ואם נחזור לזירה הצבאית, כאשר רובוטים ישדרו את שדה הקרב לחמ"ל, וחיילים יתפעלו אותם מרחוק, קצב מעבר הווידאו יוכל לקבוע את הצלחת התקיפה.
התחכום של טכנולוגיות הדחיסה עשוי להיות גם עקב אכילס שלה בתחום הפרת הפרטיות. היום תקשורת הווידאו היא מוצפנת, כך שגורם שרק קולט את המידע או אפילו הגורם שהסמכנו אותו להעביר את המידע לא אמור לדעת מה אנחנו רואים. אבל אם מנתחים פרטמטים שונים של הווידאו שעובר, למשל באילו שיטות הוא דחוס, ועד כמה, אפשר לגלות איזה סוג של תוכן רואה הצ ופה (למשל, אם זה פורנו).
"כך גורמים שרק מהווים אמצעי תעבורה לתוכן, ולא אמורים לדעת מה הוא, יכולים למכור את המידע לגורם שלישי כדי להתאים עבורכם את הפרסומות", אומר הדר. ביכולת הזאת ניתן להשתמש לטובה או לרעה.