דן להב (מימין) ועומר נבו, מייסדי Irregular / צילום: בן חכים
בשנתיים האחרונות הפכו דן להב ועומר נבו, ומעבדת הסייבר שהם מפעילים, לשותפים אינטימיים של כמה מחברות הבינה המלאכותית הבולטות בעולם - OpenAI, אנתרופיק ודיפ-מיינד של גוגל . היזמים הישראלים, יחד עם קבוצה של כמה עשרות עובדי חברת הסייבר שלהם, Irregular (אירגיולר), מקבלים לידיהם גישה למודלי השפה הכמוסים ביותר שנמצאים בתהליכי פיתוח, לומדים את תכונותיהם ומנסים לזהות את נקודות החולשה שלהן כדי למנוע בעתיד כל אפשרות לשימוש פסול בהן.
● ביד אחת מפטרת וביד השנייה שוכרת משרדים חדשים: לאן הולכת פייבר?
● הנפקת הסייבר הגדולה השנה מגיעה לוול סטריט. ואיפה הישראליות?
מודל דיפסיק הסיני, שגרם נזק מוניטיני לחברות כמו אנבידיה ו-OpenAI הוא לפי הטענה תוצר של שימוש פסול שכזה - באמצעות תהליך של שאלת שאלות חוזרת ונשנית את מנוע ChatGPT ניתן היה לחלץ חלק מהתכונות החשובות ביותר של המודל האמריקאי ולזקק אותו לידי מודל חדש. החברה הישראלית אמורה לדאוג שדבר כזה לא יקרה שנית, בזמן שהיא צריכה לחשוב יחד עם לקוחותיה על כל איום אפשרי עתידי.
היום (ד') אחר הצהריים מודיעה החברה על גיוס של 80 מיליון דולר בהובלה משותפת של קרן ההון סיכון סקויה, אחת המשקיעות הפעילות בשנים האחרונות בהייטק הישראלי, ושל קרן רד פוינט. משתתפים בסיבוב גם קרן סוויש של כדורסלן העבר עומרי כספי, מנכ"ל וויז אסף רפפורט ומנכ"ל EON אופיר ארליך. את ההשקעה מטעם סקויה מוביל שון מגווייר, מי שמנהל מטעם הקרן את ההשקעות בחברות של אילון מאסק, וכן מי שמשקיע מטעמה גם בחברות ישראליות אחרות דוגמת דקארט, קלע ו-EON.
"מעבדת סייבר"
אירגיולר היא חברה לא-סטנדרית שפועלת באופן קצת שונה מחברה רגילה. היא הוקמה כחברת שירותי אבטחת מידע, אבל היא גם מפתחת מוצר אבטחה, עובדיה מפרסמים מחקרים אקדמיים, והיא מכנה את עצמה כ"מעבדת סייבר". "כפי שחברות מודלי השפה אחראיות לפתח את המודלים הכי טובים שלהם, אנחנו אחראים על כך שניתן יהיה לאבטח אותם בתהליך הפיתוח, אבל גם בהטמעה", אומר המנכ"ל ואחד המייסדים, דן להב. "אנחנו פועלים במתכונת של מעבדה, כפי ש-OpenAI החלה את דרכה באמצעות בחינת המודלים שלה, אנחנו מפתחים תשתית מחקרית ועסקית כדי להבין איך המודלים הללו מתנהגים, כדי להיות הראשונים שמבינים איך לתקוף אותם - ולהבין את נקודות החולשה שלהם".
הבדיקות שהחברה הישראלית מבצעת כוללות ניתוח התנהגויות כמו עקיפת מערכות אנטי-וירוס, מיפוי והבנה של סביבת המערכת, ושימוש לרעה ביכולותיה. מלבד מתקפת "זיקוק המודלים" המיוחסת לדיפסיק, מתקפות נוספות עשויות לשחזר רשתות הנירונים של מודלים אחרים או להשבית סוכנים דיגיטליים, או אף להסיט אותם נגד המערכת.
הערכת סיכוני סייבר
באמצעות הסקה חסויה (Confidential inference) ואימות מבוסס חומרה, החברה מאפשרת לספקיות מודלי השפה להעריך את סיכוני הסייבר במודלים עוד לפני השקתם לתעשייה. לפי החברה, עבודתה כבר השפיעה על מודלים מתוצרת OpenAI כגון GPT-5, GPT-4, o3 ו- o4 mini; קלוד 4 של אנתרופיק; והמערכת שפיתחה הגיעה גם למשרדי דיפ-מיינד, מעבדת ה-AI של גוגל. תוצרי החברה הופיעו במאמרים שפורסמו ביוזמת חוקרים מגוגל ואנתרופיק על שלל נושאים - החל מאבטחת משקולות מודל ועד גניבת מודלים.
אירגיולר הוקמה על ידי דן להב (מנכ״ל) ועומר נבו (סמנכ"ל טכנולוגיות), שניהם בעלי תואר שני במדעי המחשב שהכירו במסגרת תחביב משותף: שניהם התחרו באליפויות דיבייט - נבו הוא אלוף העולם בדיבייט ולהב מחזיק בדירוג האישי הגבוה ביותר בהיסטוריה באליפות עולם. הדיבייט דחף את להט לקריירה העוסקת סביב נושאים המחברים בין מדעי המחשב לפעולות כמו הנמקה והסקה, תחום אותו חקר ב-IBM, ואף פרסם עליו מאמר שהופיע בכתבת שער של נייצ'ר, יחד עם חוקרים נוספים ב-IBM. נבו הוא יזם סדרתי שגם עבד תקופה מסוימת במחלקת המחקר של גוגל, שם פיתח מודלים לחיזוי שריפות התנהגות של שריפות יער המשמשים עד היום את החברה.
למרות שהחברה החלה לפעול כמעבדת מחקר המספקת שירותים, היא פועלת לפיתוח מוצר מבוסס ענן שבו נעשות כלל הבדיקות וההערכות, אותו היא מספקת לחברות מודלי השפה, ובהמשך היא תתרחב גם לשוק חברות המטרה - לקוחותיהן של חברות המודלים, על מנת לאבטח את הטמעת מודלי השפה ולוודא שגם בעת הפעלתם האיומים המרכזיים זוכים לטיפול.