זה הולך להיות הסטארט-אפ המסקרן בעולם. מה הוא מחפש בתל אביב?

לפני שנה בדיוק התארחו באוניברסיטת תל-אביב שניים ממייסדי ענקית הבינה המלאכותית OpenAI, המנכ"ל סם אלטמן, והמדען הראשי עד לאחרונה, איליה סוצקבר, ישראלי לשעבר שהתגורר בירושלים עד שנת 2002.

● ניתוח | אנבידיה בפסגה של וול סטריט. אז למה ג'נסן הואנג מודאג?
● בכיר בטבע חושף: אלה כלי ה־AI שבאמת מעניינים את חברות הפארמה

באירוע ניתנה לקהל הישראלי הצצה לדינמיקה בין שני המייסדים שבשנה האחרונה ידעה בעיקר מורדות: אלטמן דיבר בקול דק ומיוסר בעיקר על יתרונות הבינה מלאכותית והיה עסוק בלשכנע מדוע היא תשנה את העולם לטובה. בעוד סוצקבר, הכריזמטי מבין השניים, שיתף את הקהל בתנועות ידיים מוגזמות וקול סמכותי גם בחששותיו מיכולותיה של בינה מלאכותית מתקדמת שעלולה לרדת מהפסים. "יהיו אנשים רעים שיוכלו להשתמש בבינה המלאכותית בדרכים רבות עוצמה", אמר. "ונצטרך להגביל את הדרכים להשתמש בה. זו טכנולוגיה חזקה מאוד ועדיין לא מיצינו את מלוא הפוטנציאל שלה - אפשר לרפא באמצעותה את כל המחלות, אבל אפשר גם ליצור באמצעותה מחלה שהיא גרועה הרבה יותר מכל מה שהיה קודם. אם היא תצא משליטה, זה יהיה רע מאוד - זאת תהיה טעות גדולה לבנות בינה מלאכותית מתקדמת שאיננו יודעים לשלוט בה".

האזהרה של סוצקבר שנשמעה בתל אביב, הדהדה במערכת היחסים בינו לבין אלטמן לאורך כל השנה האחרונה, עד פרישתו של הראשון מ- OpenAI באופן סופי בחודש שעבר. בחודש נובמבר האחרון היה שותף סוצקבר מהלך הדחה נגד אלטמן ובכירים אחרים בחברה בשל החשש שלו כי אלטמן מוביל את OpenAI לכיוונים מסחריים מדי, ואיננו דואג לרסן מספיק טכנולוגיות בינה מלאכותית עתידיות שעלולות להוות גורם סיכון.

כהצדקה לפוטש, השתמש סוצקבר, יחד עם כמה מחברי הדירקטוריון, באמנת OpenAI, כי מי שיפר את מטרת העל של החברה - פיתוח בינה מלאכותית מתקדמת לטובת האנושות שלא למטרת רווח - עשוי לעמוד בפני הדחה. סוצקבר חזר בו מההדחה בסופו של דבר, ואלטמן הוחזר בלחץ המשקיעים והשותפה הגדולה, מיקרוסופט.

לאחר מכן היה זה רק עניין של זמן עד שסוצקבר ימצא את עצמו בחוץ. ואכן, חצי שנה אחרי האירוע הודיע סוצקבר על עזיבתו, ואתמול (ד') הודיע על הקמת חברה חדשה בשם Safe Superintelligence, או SSI בקיצור, שמטרתה לבנות בינה מלאכותית מתקדמת אך בטוחה.

השותפים: בכיר ב-OpenAI, ומי שניהל את תחום ה-AI בגוגל

סוצקבר הציג שניים משותפיו לפרויקט: דניאל לוי, מבכירי המפתחים ב-OpenAI שהולך עם סוצקבר דרך ארוכה עוד מתקופתם המשותפת בגוגל, ודניאל גרוס - ישראל לשעבר שניהל בעברו את התחום הבינה המלאכותית באפל ולאחר מכן הקים את הענף במאיץ החברות היוקרתי Ycombinator.

גרוס גדל בשכונת קטמון, למד בישיבה התיכונית חורב ובישיבה התיכונית מרכז הרב. לפני הגיוס התקבל גרוס ל-Ycombinator, שאותו ניהל באותה התקופה סם אלטמן. גרוס וסוצקבר חולקים שניהם ילדות בירושלים - גם סוצקבר גדל בה לאחר שהגיע עם הוריו מרוסיה. הוא למד באוניברסיטה הפתוחה עד שנת 2002 ומשם עזב ללמוד תואר שני ושלישי באוניברסיטת טורונטו, שם הפך לחוקר בעל שם בתחום הבינה המלאכותית.

על הנייר קבע סוצקבר את המשרדים של SSI בקליפורניה ובתל אביב, אך עד כה, לא ידוע שנשכרו משרדים בישראל או שהחל תהליך גיוס כאן. עם זאת, ההכרזה של יזם העל כי יקים מרכז פיתוח בתל אביב בעיצומה של המלחמה והסערה התדמיתית שבה נמצאת ישראל היא בשורה טובה לשוק ההייטק המקומי, שאיננו נמצא בחזית הבינה המלאכותית - למעט פעילותה של אנבידיה בישראל.

דובי פרנסס, מייסד קרן גרופ11 שהביא את סוצקבר לישראל יחד עם משלחת של OpenAI בשנה שעברה אמר כי "הביקור נתן לו טעימה מהטאלנט שיש פה. העובדה שהדמות הכי חשובה והכי מחוזרת בעולם הבינה המלאכותית ואביה הבלתי מעורער של מהפכת ה AI, בחר להקים בישראל אופרציה היא לא מובן מאליה לאור הביקורת העולמית על ישראל ולאור המתחים הקיימים פה מבית מאז תחילת 2023. זוהי אמירה חשובה כלפי התעשייה בעמק הסיליקון, וגם כלפי חלק מהבכירים בהייטק הישראלי".

החברה תהיה מבודדת מלחצים חיצוניים

חוסר שביעות הרצון של סוצקבר מהדרך שבה הלכה OpenAI, שהיה ממקימיה, ניבט גם בביקורת המרומזת שהוא מעביר על החברות המסחריות בתחום. SSI, בניגוד לחברות כמו OpenAI, אנטרופיק או AI21, תוקם כארגון ללא מטרת רווח וללא כוונה למכור מוצרים או שירותים של בינה מלאכותית, כך לפי דברים שאמר בראיון לבלומברג אמש. "החברה הזו מיוחדת בכך שהמוצר הראשון שלה יהיה בינה מלאכותית כללית (superintelligence) בטוחה והיא לא תעשה שום דבר אחר עד אז. היא תהיה מבודדת לחלוטין מהלחצים החיצוניים של התמודדות עם מוצר גדול ומסובך והצורך להשתתף במירוץ העכברים".

ומהו אותו superintelligence שעליו מדבר סוצקבר? מדובר במונח שיווקי למושג המדעי יותר Artificial General Intelligence, או בינה מלאכותית כללית (AGI) המתאר מערכות המסוגלות ללמוד בעצמן ועל סמך זאת לקבל החלטות חכמות. "אף אחד אחד לא באמת יודע מה זה סופר אינטליג'נס, אלה הם מונחים שנזרקים לחלל האוויר", אומר פרופ' מאיר פדר, ראש המרכז לבינה מלאכותית באוניברסיטת תל אביב.

"מה שאנחנו רואים הוא שקיימת התקדמות טכנולוגית הדרגתית ביכולת של מכונה לקבל החלטה באמצעות שימוש במודלים סטטיסטיים, בהתבסס על מאגר נתונים מסוים, ועל סמך קריטריונים שונים - זה יכול להחליף מנועי חיפוש, לכתוב קוד או לצייר אבל זו לא תופעה שהייתי מכנה בתור אינטליגנציה. מהפכת הבינה המלאכותית התקדמה מזיהוי עצמים או זיהוי דיבור בהתבסס על תבניות, לניתוח והבנה של שפה.

"כשאנחנו מדברים על בינה מלאכותית כללית (AGI), אנחנו מדברים על תהליך שבו מכונה לומדת באופן שדומה לאדם - שאיננו נזקק למיליארדי מסמכים כדי ללמוד שפה, אלא עושה שימוש במעט דוגמאות. כך היינו רוצים לראות אותה לומדת במהירות, תוך שימוש במעט דאטה ומסוגים רבים שלו. מדברים על הנושא הזה אבל איש לא יודע האם הדבר אפשרי, לאן זה יוביל ומה יקרה עם זה. באותה המידה, הבטיחות שנדרשת כאן איננה יוצאת דופן ממאפייני הבטיחות שנדרשים בכל טכנולוגיה חדשה".

בראיון לבלומברג, שופך סוצקבר מעט אור על כוונתיו. לטענתו, במערכות הנוכחיות, "אתה מדבר עם זה (עם הצ'ט בוט - א"ג), אתה מנהל שיחה, וסיימת". המערכת שהוא רוצה לעסוק בה תהיה כללית ומרחיבה יותר ביכולותיה: "אתה מדבר על חוות שרתים גדולה שמפתחת טכנולוגיה באופן אוטונומי, זה מטורף, נכון? ואנחנו רוצים להפוך את זה לבטוח יותר".

"בונה את OpenAI מחדש"

"OpenAI הוקמה כעמותה ללא כוונת רווח במטרה ליצור מודלים פתוחים שניתן יהיה לעבוד איתם על אתיקה, בטיחות והיבטים מסחריים, בשונה מגוגל או מיקרוסופט - אבל היא לא הלכה לכיוונים האלה בסוף", אומר לגלובס פרופ' ערן טוך, ראש המחלקה להנדסת תעשייה בפקולטה להנדסה באוניברסיטת תל אביב.

 ערן טוך / צילום: אוניברסיטת תל אביב

"בשל ההצלחה הגדולה שלה, התפתחה בעמותה הזו מעין "טפיל", חברה מסחרית שפותחה כספין-אוף ושמהבטחות למודלים פתוחים, וועדות אתיקה שבחנו היבטים מוסריים ומחקר פתוח - לא קיבלנו בסוף דבר, מלבד חברה שמוכרת את המוצרים שלה למיקרוסופט ואפל. בניגוד לשמה של החברה, היא השיקה תחילה מודלים פתוחים, אבל מהר מאוד היא עברה להשקת מודלים סגורים. במידה רבה, עם אנשים שהלכו איתו כברת דרך ב-OpenAI, סוצקבר בונה את OpenAI מחדש כפי שהיא היתה אמורה להיות בחזון שלו, שעל קיומו הוא שילם מחיר במשרתו".

חברה שכזו תדרוש ודאי מימון רב וציוד חומרה בעלות של מיליארדי דולרים. משקיעים לא ייאותו להשקיע במלכ"ר, אבל לטענת פרופ' טוך, הגעה לבינה מלאוכתית כללית היא אפשרית וקרובה יותר מפעם ולאו דווקא יקרה מאוד. "ההיצע הגדול של מודלי בינה מלאכותית בקוד פתוח מאפשר לגופים כמו SSI לקחת אותם ולאמן ולעבוד איתם על הנושאים שהם רוצים לפתח. אין צורך לפתח הכל מחדש, כפי שהיה במצב שבו OpenAI הוקמה".