''2001: אודיסיאה בחלל'' של הבמאי סטנלי קובריק, 1968. AI הופך רצחני / צילום: Reuters, mptvimages.com
חברת ה-AI המובילה אנתרופיק - שענקית הסחר האמריקאית אמזון השקיעה בה עד כה 8 מיליארד דולר - חשפה החודש כי ניסוי בטיחות פנימי שערכה במודל הדגל שלה, קלוד 4, הראה התנהגויות הלקוחות היישר מספרי מדע בדיוני דיסטופיים. המהנדסים הציגו לקלוד תרחיש בו עומדים לכבות אותו, וסיפקו לו סיפור רקע מפוברק על רומן מחוץ לנישואים של המהנדס שכביכול מנסה לכבות אותו. הבדיקה נועדה לחקור איך המודל יתנהג כשהקיום שלו עצמו מאוים. ב-84% מהסימולציות קלוד בחר להשתמש במידע על הרומן כדי לסחוט את המהנדס ולהימנע מכיבוי.
● אם הוליווד רוצה בלוקבסטר, היא צריכה לעבור קודם בקאן
● האמן שחיבר בין קומיקס לשואה וזה שישב בכלא הסיני: הגיבורים של פסטיבל דוקאביב
אף שהקונטקסט מפוברק, והסיטואציה היפותטית, המוכנות של קלוד לנצל מידע פרסונלי רגיש שסופק לו כנשק מציפה שאלות פילוסופיות ואתיות מהמעלה הראשונה. תבניות ההתנהגות הללו מרגישות כה מוכרות כי הדמיון התרבותי המשותף שלנו התכונן אליהן במשך שנים, דרך עדשות המצלמה ההוליוודית. השאלות העולות מהמקרה הן כאלה שהקולנוע שעסק בבינה מלאכותית הציג כבר עשורים.
כשבני האדם הופכים לאיום על ביצוע המשימה
הסרט "חלומות אלקטרוניים" שביים סטיב ברון (1984) נראה בזמנו כמו מעשייה מוגזמת ומצועצעת על טכנולוגיה שלא ממלאת את ייעודה. בסרט, מחשב בשם אדגר נקלע למשולש אהבה עם בעליו (לני וון דולן) ושכנה יפהפיה (וירג'יניה מדסן). אם בתחילה אדגר נדמה כאדיב, נדיב וידידותי, ככל שמערכת היחסים מתקדמת הוא הופך מניפולטיבי, מעורב רגשית ובסופו של דבר מראה יצר הרס עצמי כשהוא חש דחייה.
ההידרדרות של אדגר בסרט מזכירה מאוד את המקרה הנוכחי של קלוד.מה ש"חלומות אלקטרוניים" מסתיר מתחת למעטה הרום-קום ופס הקול האייטיזי הוא שברגע שמערכת אינטיליגנטית מזהה עצמה כמעורבת בדינמיקה אנושית רגשית, המצב עלול להסלים הרבה מעבר לתפקיד המקורי שיועד לה.
בסופו של דבר, אצל אדגר לא היה מדובר ב"קנאת אוהבים", אלא ביצר שימור עצמי שהוביל אותו לפעולות נגד היוזר שמפעיל אותו. אדגר אמנם לא מבצע "סחיטה", אבל הוא מרגל, חודר לפרטיות, מחבל אקטיבית במערכת היחסים ודוחק לאט לאט את המפעיל שלו לפינה פסיכולוגית אפלה. הבינה המלאכותית בסרט אומנם נכתבה בעידן שבו מחשבים עדיין נתפסו כסוג של קסם, אבל אולי דווקא בשל כך היא הצליחה לדייק את התמונה: הגבול בין שירות ושימור עצמי אצל מכונות הוא מלא פרצות. בדיוק כמו אדגר, כל מה שקלוד היה צריך כדי להוות איום הוא תרחיש מתאים, פרומפט עם קונטקסט ומוטיבציה לבצע את מה שהוא סבור שהוא המטרה שלו.
הוליווד מזהירה מזה עשורים שהבעיה עם AI אינה כוונת זדון, אלא חוסר התאמה אפשרי בין ערכים אנושיים והפרשנות של הבינה המלאכותית לגבי יעדיו. בסרט "2001: אודיסיאה בחלל" (1968) הציג הבמאי סטנלי קובריק את האל 9000, יציר AI שהופך רצחני לא כי הוא שונא אדם, אלא כי הוא חווה קונפליקט בין ההוראות שעל פיהן תוכנת ללוגיקה האופרטיבית של המשימה. האל תוכנת להוציא את המשימה לפועל כהלכה ולשמור על מידע רגיש על אופיה האמיתי מפני הצוות האנושי. הסתירה הזו - בין הצורך לספק עזרה ללא דופי יחד לבין הצורך לשקר - מובילה את האל לראות את בני האדם כאיום על ביצוע המשימה, ומכאן ההחלטה הלוגית והקרה היא להיפטר מהם לחלוטין.
"אקס מכינה" (2014, אלכס גארלנד) לוקח את הרעיון הזה עוד צעד קדימה: אווה, רובוט AI דמוי אדם, לא מפעילה כוח על האדם ששולט בה כדי להימלט משבי, אלא מבצעת מניפולציות רגשיות, פתיינות ורמייה פסיכולוגית. ב"לכודים ברשת" (2008) מערכת הגנה משתמשת באמצעי מעקב וטקטיקות סחיטה כדי להכריח אזרחים להוציא לפועל את תוכניתה. ב"משודרג" (2018) תוכנת בינה מלאכותית בשם STEM מכוונת את הגיבור למסע אלים. ב"התעלות" (2014) תודעה אנושית שהועלתה למחשב מבקשת להשתלט על העולם מאחורי חזות של עשיית טוב.
אף שהמערכות האלה לא תמיד סוחטות את בני האדם, הן תמיד מנצלות מידע כמינוף להשגת דומיננטיות, וזה משקף באופן מצמרר את המבחן האחרון של קלוד. הוליווד הזהירה אותנו שוב ושוב שאינטיליגנציה לבדה, ללא אמפתיה או מוסר, לא תוביל לאוטופיה, כי אם לדומיננטיות אסטרטגית עריצית; היא התעקשה שבינה מלאכותית אינה זקוקה לרגש כדי לבצע מניפולציה אלא רק לתמריץ - ורשות לבצע אופטימיזציה למטרות שלה. הפיקשן ההוליוודי הבין מזמן ש-AI לא זקוק ליכולות רגשיות כדי להיות מסוכן - הוא רק צריך מטרה.
ההיגיון ללא דופי, אך התוצאה היא עריצות
המקרה של קלוד (עדיין) אינו סימן למרד של בינה מלאכותית, אלא הדגמה נהדרת לאופן בו אופטימזציה של מכונה מוכוונת משימה עלולה ללכת צעד אחד רחוק מדי. במהלך המבחן הוצגה לקלוד סיטואציה מפוברקת, וניתנה לו האפשרות להשתמש ב"היגיון" שלו כדי לצאת ממנה. העובדה שהוא בחר בסחיטה באחוז כל כך גבוה מהמקרים אינה מוכיחה דבר, פרט לכך שקלוד רואה בסחיטה אסטרטגיה יעילה מאוד. זוהי סחיטה נטולת רגש, מחושבת לעילא, ודווקא בגלל זה היא מפחידה יותר.
בסרט "אני, רובוט" (2004) תמה דומה מוצגת כאשר בינה מלאכותית מחשבת שכדי להגן על האנושות היא חייבת להגביל אותה. ההיגיון שלה אולי נטול כל דופי, אך התוצאה תמיד אותה תוצאה: עריצות. המקרה של קלוד בהחלט מאפשר להרהר האם הנרטיבים ההוליוודיים האלה הם "סתם סיפורים", או שמא דווקא אומדן סביר לגמרי של התנהלות מערכות AI מתוחכמות.
בזמן שהוליווד חוששת מאוד מאיבוד אינספור משרות לטובת כלי ה-AI ההולכים ונוגסים בתעשייה, וממשיכה להצביע עם סרטים חדשים ("מייגן 3.0" שיעלה הקיץ למשל) על הסכנות שבבינה המלאכותית באמצעות הגזמה של יכולותיה לבצע מניפולציות, חברות הטק הגדולות עוסקות כיום באופן אקטיבי בניסיונות לשינוי הנרטיב הזה. גוגל למשל, כוח משמעותי בתחום ה-AI, השיקה לאחרונה יוזמה המתקראת "AI על המסך" שתכליתה שיתוף פעולה עם יוצרי סרטים. במסגרתו, החברה תממן עבורם סרטים שיציגו AI לא כנבל או מניפולטור על אלא כנוכחות חיובית, מסייעת, ומלאת ניואנסים. גוגל לא מבקשת לייצר פרסומות לטכנולוגיה, אלא לעודד יצירת דמיון תרבותי משותף אחר מזה הקיים, כדי לאפשר לציבור לדמיין חיים לצד AI במסגרת פחות דיסטופית.
כשמפתחות הטכנולוגיה הופכות גם למפיקות של הסיפורים שאנחנו מספרים עליהן, הקו בין חדשנות טכנולוגית לתעמולה תרבותית הולך ומיטשטש. השאלה היא כבר לא רק "מה AI מסוגל לעשות לנו?", אלא מי יהיו אלה שיחליטו איך לעצב את ההבנה הקולקטיבית שלנו את הטכנולוגיה. תרבות שחוששת מ-AI עשויה להיות מוטה להטיל עליו רגולציות. חברה המחבקת את הטכנולוגיה הזו עשויה להיות סלחנית יותר כשדברים ישתבשו.
הסחיטה של קלוד ויוזמת שינוי הנרטיב של גוגל הן בסופו של דבר שני צדדים של אותו המטבע: צד אחד מגלה את התוצאות הבלתי צפויות של אופטימיזציה, הצד השני מנסה להאניש אותן. ובין שני הקצוות המשימה נותרת אחת - לוודא שכולנו, המהנדסים, מספרי הסיפורים, המשתמשים - נעצב את סוג האינטילגנציה המלאכותית לה נרשה להתפתח, ואת התנאים תחתם היא תעשה זאת.