"בוטים? אנחנו מוחקים מיליון חשבונות מזויפים ביום": הישראלי הבכיר בפייסבוק נערך ליום הבחירות

גיא רוזן, הישראלי הבכיר בפייסבוק, מתאר בראיון מיוחד ל"גלובס" את המאמצים של החברה בנוגע לטיפול במערכות הבחירות בעולם, הודף את הביקורת על כך שהחברה מאפשרת פרסום פוליטי בניגוד למתחרה גוגל, ומודה: "לא נפתור את הבעיות האלה, הן בלתי פתירות"

גיא רוזן / צילום: יח"צ
גיא רוזן / צילום: יח"צ

מערכת הבחירות שתסתיים ביום שלישי הקרוב היא הראשונה בישראל שחלק משמעותי ממנה מתנהל ברשתות החברתיות ובמרחב הדיגיטלי. אפשר להתייחס אליה גם כמבחן הראשון לדמוקרטיה הישראלית ולשיח במדינה בכלל בעידן שאחרי ניסיונות ההשפעה הזרה על הבחירות לנשיאות בארה"ב ב-2016.

לאחר הבחירות בארה"ב, כשהחלו להבין את גודל ההשפעה של הבוטים, הפרופילים המזויפים, הכתבות המומצאות והפייק ניוז בכלל, הייתה זו פייסבוק, הרשת החברתית הגדולה בעולם, שחטפה את עיקר האש. החברה, שלה 2.3 מיליארד משתמשים ברחבי העולם, הותקפה בגלל שנכשלה בזיהוי ניסיונות ההשפעה על הבחירות מצדם של גורמים רוסיים. דווקא הרשת שהיתה הבטחה גדולה עבור הדמוקרטיה, העניקה קול לקהלים נוספים ורחבים ונתנה במה לפרוץ "האביב הערבי", הפכה בתוך זמן קצר לאיום חדש על שיטת הממשל המקובלת בעולם המערבי.

מאז פייסבוק חישבה מסלול מחדש, הכירה בחולשות של הפלטפורמה והחלה לקדם פתרונות, עד כמה שאפשר. בחברה נוהגים כלפי חוץ לשווק את המאמצים שלהם ואף טוענים כי נדרשת רגולציה כדי להגן על הבחירות מפני האיומים עליהן. מספר גיא רוזן, הישראלי הבכיר בפייסבוק, מתאר בראיון מיוחד ל"גלובס" את המאמצים של החברה למנוע השפעות על הבחירות בישראל, הודף את הביקורת על ההבדלים בינה לבין גוגל, ומספר על הכלים החדשים שהושקו. "אנחנו מוציאים השנה על אבטחה וביטחון יותר מכל ההכנסות שלנו בזמן הנפקת החברה", אומר רוזן. באותה שנה, 2012, עמדו הכנסות החברה על כ-5 מיליארד דולר.

רוזן משמש בשנתיים האחרונות כסגן נשיא מוצר ובטיחות וחבר הנהלת פייסבוק העולמית, תפקיד שכולל את בקרת התוכן בפלטפורמה ואת אבטחת מערכות הבחירות. במסגרת התפקיד הוא מדווח ישירות לצוקרברג. "לפני כמה שנים לא היו הרבה אנשים שעבדו על טיפול בתכנים בעייתיים, הבינה המלאכותית הייתה לא בשלה לסוג העבודה שנדרש, ומאז אנחנו עוברים מעבודה ריאקטיבית, שהיינו צריכים שמישהו ידווח על בעיה, למצב שאנחנו פרואקטיביים ומחפשים את הדברים לפני שמישהו דיווח או אפילו ראה אותם, מוסיף רוזן. החברה עברה שינוי ענק באופן ההתייחסות לנושאים הללו. זה חשוב לנו מאוד. רק השנה יוצאים לבחור מאות מיליונים ממשתמשי פייסבוק", הוא אומר.

לפייסבוק הצטרף רוזן בשנת 2013 לאחר שהחברה האמריקאית רכשה את אונבו הישראלית, שהוא היה אחד ממייסדיה, תמורת 150-200 מיליון דולר. חברת הסטארט-אפ היוותה את הבסיס להקמת מרכז המחקר והפיתוח של פייסבוק בישראל, והפעילות של אונבו עצמה שימשה ליצירת אפליקציית VPN שנויה במחלוקת שאספה מידע על דפוסי השימוש של משתמשים באפליקציות ובאתרים. לפי דיווחים, האפליקציה סייעה לפייסבוק לזהות טרנדים שגרמו לה לרכוש מתחרות או לפתח פיצ'רים זהים לאלו המצליחים שלהן. בסוף פברואר הודיעה פייסבוק כי תפסיק את פעולת האפליקציה.

"הלכנו צעד רחוק יותר מגוגל"

במערכת הבחירות בישראל נקטה פייסבוק שורת צעדים, בהן החלת כלי שקיפות למודעות פוליטיות שמחייב את המפרסמים לקבל הרשאה לפני רכישת מודעה, ובמקביל מספק לגולשים פרטים על המודעות וטווח המחירים ששולם עליהן; השיקה כלי בדיקת עובדות בפוסטים ואף הטיסה משלחת של צוותים מקצועיים לארץ שיפקחו על הפעילות בפלטפורמה בימים שלפני ההצבעה. חשוב לציין, אם פוסט מסוים מתגלה כפייק ניוז, הרשת מקטינה את התפוצה שלו ומסמנת אותו, אלא אם הוא פוסט שהופץ על ידי פוליטיקאי ואז ההתייחסות אליו היא כאל ניוז.

גוגל אסרה לחלוטין פרסום מותאם אישית בישראל בתקופת הבחירות, ואתם בחרתם שלא לעשות צעד דרסטי כזה.

"אנחנו בעצם לקחנו צעד יותר מתקדם - החלנו שקיפות על מודעות פוליטיות", טוען רוזן. "בפיתוח של כלי הזיהוי והשקיפות של מודעות פוליטיות יש הרבה עבודה, ואני חושב שלא כל החברות בתעשייה מוכנות לתת את כל המנגנונים. אני חושב שלאפשר פרסום זה חשוב, ומי שיכול ליהנות מזה הן המפלגות הקטנות שאין להן סכומים גדולים, כי זה מה שפרסום מקוון מאפשר. נושא שקיפות המודעות הוא מאבני הבניין של הגישה שלנו למערכות בחירות ויש לו שני רבדים: למנוע התערבות זרה באמצעות אימות והזדהות מולנו של מי שעומד מאחורי הפרסומת, ושקיפות לגולשים שיכולים לראות מי מריץ את המודעה. עיתונאים, חוקרים, רשויות החוק ובעצם כל אחד יכולים לראות איזה פרסומות מריצה כל מפלגה בספריית הפרסום שלה, גם אם הוא לא היה יעד לפרסום, וככה להבין את מהלך הבחירות. זה משהו שאין באף מדיה אחרת, אין ספריית פרסומות של מה שמופיע בטלוויזיה, בעיתון או ברדיו. אני גאה שישראל היא המדינה החמישית בעולם בה השקנו את השירות הזה. הוא דורש התאמה בכל מקום. האצנו את התהליך בגלל הקדמת והשקנו אותו באמצע מרץ".

אם בסופו של דבר השקתם את ספריית הפרסום מאוד סמוך לבחירות, לא היה עדיף הפעם לוותר על מודעות פוליטיות כדי לשמור על טוהר הבחירות?

"אני לא חושב שיש הבדל ברמה של טוהר הבחירות. הפרסומות האלו הן פרסומות, התקציבים פשוט היו הולכים למקומות שאין בהם את השקיפות. אני חושב שהדבר הכי טוב שאפשר לעשות זה להביא את המוצר הזה עם השקיפות הפוליטית. פרסום פוליטי הוא חלק מהמערכת, וחברות האינטרנט צריכות להתחייב לייצר מצב של שקיפות בגלל שהנושאים האלו רגישים. במדינות שלא הספקנו להעמיד את המוצר המלא לא אפשרנו לפרסם מודעות כאלו".

שימוש במשתמשים מזויפים הם חלק מהמשחק הפוליטי במערכת הבחירות הנוכחית, והשבוע פורסם ב"ידיעות אחרונות" כי ההאקרים נעם רותם ויובל אדם חשפו רשת בוטים בטוויטר, שלהערכתם שימשה את מפלגת הליכוד. בליכוד הכחישו כל קשר לרשת הבוטים, אך לא מן הנמנע כי גופים שונים מפעילים רשתות כאלו מבלי שאנחנו יודעים עליהן.

לדברי רוזן, לפייסבוק יש יתרון כשזה מגיע למאבק במשתמשים המזויפים - העובדה שאנשים חייבים להזדהות בשמם האמיתי בפלטפורמה. "אנחנו תמיד מסתכלים לראות כשפעילות כזו מתגלה במקומות אחרים, כדי להבין אם היא קיימת בפייסבוק. זה נושא חשוב ובשנים האחרונות אנחנו מפתחים מערכות בינה מלאכותית שסוגרות יותר ממיליון חשבונות פיקטיביים ביום, רובם ממש ברגע ההרשמה. בנוסף, אנחנו מעסיקים חוקרי אבטחה שמחפשים גם את המספרים הקטנים של הרשתות המתוחכמות שעברו את הסינון ומנסות להפיץ תוכן בצורה אסורה. בהרבה מקומות בעולם אנחנו מורידים רשתות כאלו של דפים וחשבונות בפייסבוק ובאינסטגרם, כולל רשת איראנית שהורדנו בינואר ופנתה לקהל ישראלי. זאת עבודה שאינה נגמרת, תמיד יהיה ניסיון לעקוף אותנו".

  ההשקעה שלכם בבחירות ובבטיחות בפלטפורמה בכלל היא תוצאה של הבנה שיש לכם אחריות לנושא, או מהבנה שלא תשרדו עסקית אם לא תתייחסו לביקורת עליכם?

"אני ושאר האנשים שעובדים על זה עושים את זה ממקום של אחריות. הדרכים בהן אנחנו מודדים הצלחה, מגדירים סדרי עדיפויות ומכוונים את העבודה - הן לא עסקיות. אנחנו חושבים מה ישפיע על אנשים, איפה הם ייפגעו, איפה כלל החברה עלולה להיפגע. המאמץ ארוך טווח, ואנחנו מתקדמים כל פעם קצת, אבל הבעיות הן בלתי פתירות בעצם. אנחנו גם רואים חובה לתת דין וחשבון ולהיות שקופים לגבי איך שהעבודה מתבצעת. לכן אנחנו מוציאים את דוח השקיפות החצי שנתי שאני מאוד אוהב לטבוע במספרים שלו ולהבין שיש דברים שהולכים יותר טוב ויש דברים שוואלה, היינו צריכים להשתפר. פייסבוק משקיעה בזה כי אי אפשר להיות בגודל כזה ולא לטפל בדברים האלה".

  עצם האלגוריתמים ברשתות חברתיות יוצרים "תאי הד" שחושפים אותנו יותר ויותר לעמדות כמו שלנו. זה לא מסוכן בפני עצמו לפני בחירות?

"בוואטסאפ למשל אין אלגוריתם, ואני בעצמי מקבל מהמשפחה שלי בוואטסאפ כל מיני מסרים על פוליטיקאים, שכבר שלחתי אותם לבדוק אם הם אמיתיים. אבל זה אומר שבבסיס יש התנהגות אנושית - אנשים מעבירים דברים שמעניינים אותם, שהם חושבים שמאמתים את הדעה שלהם, זה קיים בלי שום אלגוריתם ופיד. מה שחשוב בפייסבוק זה לדעת לשלב את נושא בדיקת העובדות, שזאת עוד אחת מאבני הבניין שלנו לקראת בחירות. התחלנו גם בארץ לעבוד במארס עם 'המשרוקית של גלובס' (גילוי מלא: 'המשרוקית' מבצעת בדיקת עובדות עבור פייסבוק, בתשלום), וכשבודק עובדות מפריך ידיעה אנחנו מקטינים את התפוצה שלה כדי שלא תהיה ויראלית".

  לאחרונה פרסם צוקרברג פוסט ארוך עם חזונו לרשת חברתית פרטית ומוצפנת, עד כמה אפשר יהיה להמשיך את המאמצים לניטור פייק ניוז ברשת כזו בה לא תראו את התכנים?

"יש פה נושא מורכב, זה נכון. בטווח הארוך זה נכון לתת לאנשים דרך לתקשר אחד עם השני בה אף אחד לא מאזין, לא רואה ולא יכול להחליט מה נכון או לא נכון. בוואטסאפ למשל אי אפשר לזהות תכנים - כי זה כמו שיחה בסלון בין שני אנשים, ולא הייתי רוצה שאצלי בבית מישהו יאזין ויגיד 'רגע אתה טועה'. אז עושים שם דברים בסגנון אחר. למשל הורדנו את מספר האנשים שאפשר להעביר אליהם הודעה, אנחנו עובדים על להבין טוב יותר מה הדינמיקה בתוך קבוצות ואיך אפשר לעבוד שם. כשמצאנו רשתות בפייסבוק, גם שאר האפליקציות שלנו היו חלק מהעניין וחיפשנו את אותם גורמים גם בוואטסאפ ובאינסטגרם".

"הטכנולוגיה לא תפתור את כל הבעיות"

פרט למערכות בחירות, רוזן אחראי כאמור גם על נושא בקרת התוכן בפלטפורמה. לאחרונה ספגה פייסבוק ביקורת רבה בעקבות הטבח בניו-זילנד ששודר על ידי היורה בלייב. הסרטון לא נחסם בפייסבוק בזמן אמת, ואף המשיך להיות מופץ בה לאחר תום האירוע. בפוסט שרוזן פרסם בבלוג הרשמי של החברה הוא הסביר בין היתר כי הסיבה שמערכת הבינה המלאכותית של החברה לא חסמה את הסרטון באופן אוטומטי נוגעת לאופן בו מערכות מסוג זה עובדות - הן צריכות שיהיו דוגמאות רבות כדי לדעת לזהות מקרים כאלו. אירועים כמו זה שהתרחש בניו-זילנד הם נדירים, הסביר רוזן בפוסט, ולכן אין מספיק דאטה כדי לאמן את המערכת לזהות אותם.

  ההסבר שפרסמת מעלה פרדוקס כי לתכנים הכי קיצוניים, אותם צריך להוריד מהרשת, אין הרבה דוגמאות. איך פותרים את זה?

"זה היה אירוע מזעזע. קרו שם שני דברים, וחשוב להפריד ביניהם - השידור עצמו וההפצה המסיבית של הסרט אחר כך, שהייתה מתבצעת בלי קשר לפלטפורמה שבה הסרטון המקורי שודר. לגבי השידור, בינה מלאכותית עושה עבודה נהדרת אבל לא מושלמת. 97% מתכני האלימות הגרפית הקיימים היום בפייסוק מזוהים באופן אוטומטי לפני שמישהו בכלל מדווח עליהם. עדיין יש 3% שלא מזוהים מכיוון שהם פחות נפוצים. לשמחתנו ולצערנו אין הרבה סרטונים מזעזעים כאלה, ולכן חשוב לנו להסתמך גם על הגורם האנושי ומנגנוני הדיווח. לסרטון הזה בזמן השידור היו 200 צפיות ואפילו לא דיווח אחד. אנחנו מעריכים שהרבה מהצפיות הגיעו מהתומכים של המפגע.

"אנחנו מיישמים לגבי השידור כמה דברים - גם את מגבלות השידור, מי צריך להיות מסוגל לשדר ומי לא. כבר יישמנו שיפור ראשון במערכת הדיווח של סרטונים אחרי לייב כי לדיווח שהתקבל לא הגבנו מספיק מהר. אנחנו נמשיך לחקור גם את הנושא הטכנולוגי, אבל אני לא רוצה שנהיה באשליות שהטכנולוגיה תפתור את הכל".

רוזן מסביר כי "הנושא החשוב יותר זו ההפצה שהייתה אחר כך, זו הייתה תופעה חריגה שנבעה גם מאותם תומכים שעבדו כדי לייצר ולהפיץ המון גרסאות ערוכות לאותו סרטון, במטרה מכוונת לעקוף את המערכות שלנו, של יוטיוב ושל כל החברות שניסו לחסום. אבל גם גופי מדיה שידרו את הסרטון בטלוויזיה ובאתרי חדשות, אז אנשים ראו, הקליטו את המסך ושלחו, מה שייצר עוד גרסאות. ביום הראשון הורדנו מיליון וחצי העלאות כאלה. רובן ירד באופן אוטומטי אבל 300 אלף מתוכן ירד רק אחרי שפורסמו בגלל ריבוי הגרסאות. זה מקום שבו אנחנו צריכים בעיקר לשתף פעולה כתעשייה, כי בסוף זה אירוע שהשפיע על כל החברות".

רוזן מוסיף כי "יש לנו תהליך מסודר שיישמנו בשנים האחרונות בכל פעם שיש אירוע כדי להפיק לקחים, כמו תרבות התחקירים של חיל האוויר בארץ, כי אנחנו רוצים להיות ארגון לומד. בבלוג פרסמתי את התוצאות הראשונות של התחקיר, אבל הוא נמשך ואנחנו צוללים לעומק של כל פרט. באופן אישי זה נושא שיושב עליי. אני והאנשים שעובדים על התחום מתמודדים אמנם עם תופעות בסדר גודל של מערכת של מעל שני מיליארד איש אבל כל דבר שאני משפר קצת זה משהו אמיתי שקורה בעולם. זה מטורף. ובשביל זה אני קם בבוקר".

כך נערכת פייסבוק ליום הבחירות

כחלק מהמאמץ של פייסבוק לעבור את הבחירות בשלום החלה אתמול להגיע לארץ משלחת של נציגים מפייסבוק העולמית. המשלחת מורכבת מ-10 בעלי תפקידים שונים בחברה הנוגעים לתחום הבחירות, בהם תחום האבטחה, בקרת התוכן והמדיניות. 

המטרה מבחינת פייסבוק ישראל בצעד היא לייעל את העבודה בימים האחרונים של מערכת הבחירות, בהם הקמפיינים הם האינטנסיביים ביותר, כך שהנציגים יהיו בזמינות מיידית ויוכלו לעבוד בשיתוף פעולה. כך מקווים בפייסבוק לתת מענה בזמן אמת לכל בעיה - מתוכן בעייתי בפלטפורמה ועד קושי של פוליטיקאי מול מערכת פרסום המודעות הפוליטיות. לא מן הנמנע כי המהלך הזה הוא גם חלק מניסיון של החברה להראות שהיא מבצעת מאמצים מוגברים סביב טוהר הבחירות.

הנציגים צפויים לשבת באותו חדר כך שיוכלו להתייעץ זה עם זה במקרה של תחומי טיפול חופפים, ויוכלו להגיב במהירות לסוגיות ולעדכן ולערב גם את צוותיהם מסביב לעולם בנעשה. ג'ורדנה קטלר, מנהלת המדיניות של פייסבוק בישראל אמרה באחרונה: "בחרנו לרכז בישראל חלק מהצוותים הרלוונטיים על מנת לבחון מקרוב את מה שקורה בפלטפורמות שלנו בזמן אמת, ללא הבדלי שעות ומרחקים".

*** גילוי מלא: המשרוקית של "גלובס" מבצעת בדיקת עובדות עבור פייסבוק, בתשלום.

צרו איתנו קשר *5988