הדילמה המוסרית של מדעני הנתונים / צילום: Associated Press, Sebastian Scheiner
"לי אישית, נגיד, היה מפריע לעבוד בחברה של אופציות בינאריות. זה חברות שבמקרה הטוב הן חברות הימורים, ובמקרה הרע מנסות להוציא כסף מאנשים. יש להם מלא עבודה בשביל מדעני נתונים. חברות שעושות איזשהו מעקב אחרי אנשים - גם פחות קוסם לי. אני בטוח למשל שבתעשיית הפורנו יש גם עבודה למדעני נתונים. זה פחות מפריע לי. הם שמים את כל הקלפים על השולחן לפחות: 'הנה, זה מה שאנחנו עושים'".
את הדילמות האלו חלק לביא, מדען נתונים בחברת טכנולוגיה בינלאומית גדולה, עם ד"ר נטע אבנון, שלפני חמש שנים יצאה במסגרת דוקטורט בסוציולוגיה למסע ראיונות של העובדים באחד המקצועות הלוהטים כרגע, מקצוע שבעצם עדיין מתהווה: מדעני נתונים. אלה האנשים שבונים את האלגוריתמים שמשפיעים על חיינו בדרכים קטנות וגדולות - ממנועי ההמלצות שמציעים לנו שירים שנאהב, דרך המערכות שמזהות את הפנים שלנו בנתב"ג, ועד למוח של המכוניות האוטונומיות.
ישראל, מתברר, היא אימפריה בתחום. "מעצמת אלגוריתמים לטוב ולרע", כמו שאבנון מנסחת את זה. "בסקר של התעשייה מ־2016, ישראל הייתה מקום עשירי בעולם במספרים מוחלטים של מהנדסי נתונים. יחסית לגודל האוכלוסייה שלנו זה מקום מאוד גבוה. מגיעות לכאן חברות מכל העולם".
אבנון, פוסט דוקטורנטית במחלקה לסוציולוגיה ואנתרופולוגיה באוניברסיטת תל אביב, היא חוקרת מקצועות. מדעני הנתונים היו עבורה הזדמנות מרתקת לדבר עם אנשים שעובדים במקצוע בחיתוליו. בין היתר, היא שאלה אותם גם על האתיקה של המקצוע, שמציף לא מעט דילמות. תחשבו למשל על השערוריות סביב התכנים שמקודמים בפייסבוק או יוטיוב, או על ההחלטות הרות הגורל שמקבל מי שבונה אלגוריתמים לכלי נשק אוטונומיים.
חמש שנים מאוחר יותר, הראיונות שביצעה אבנון הפכו לחומר הגלם של מאמר שהתפרסם לאחרונה בכתב העת "סוציולוגיה ישראלית", אותו חיברה יחד עם ד"ר דן קוטליאר מהחוג לסוציולוגיה באוניברסיטת חיפה ושירה ריבנאי בהיר, דוקטורנטית באוניברסיטת בן גוריון ומרצה באוניברסיטת רייכמן.
המאמר נושא את הכותרת: "על מה אנחנו מדברים כשאנחנו מדברים על אתיקה אלגוריתמית? המקרה של מדעני נתונים בישראל", ובו השלושה מתעמקים בראיונות שקיימה אבנון, כדי לנסות להבין איך מדעני הנתונים שאיתם דיברה חושבים על האתיקה בתחומם.
כמעט בכל תחום יש דילמות כמובן, אבל כפי שהשלושה מזכירים, המפגש בין מערכות אלגוריתם לחברה האנושית עלה לא מעט לכותרות בשנים האחרונות, בהקשרים של פגיעה באוטונומיה האישית, הגברת הקיטוב והנצחת אי שוויון ואפליה - מפייק ניוז שמככב בפיד שלנו ועד אלגוריתמים ששולחים יותר ניידות לשכונות מיעוטים בארה"ב.
ולפעמים הדילמות האתיות הן יומיומיות, וצפות סביב המידע האישי הרב שנמצא בידיים של מדעני הנתונים, כמו שצוטט אחד המרואיינים במאמר: "אני אף פעם לא בדקתי חשבון של מישהו שאני מכיר אצלנו, למרות שאני יכול. אף פעם לא התפתיתי".
באופן קצת פשטני, אפשר לומר שאתם בעצם שואלים מה חושבים האנשים שעובדים על האלגוריתם של פייסבוק, או למה אנשים הולכים לעבוד ב־NSO ודומותיה?
"באיזשהו מקום כן", אומר קוטליאר. "אנחנו רואים שיש שיח גלובלי ער סביב אתיקה של אלגוריתמים, ואנחנו רואים בו זמנית שאנשים הולכים לעבוד בגאווה בחברות - עזוב דוגמאות קיצון כמו NSO - הבסיס של הרבה מהטכנולוגיה בחיינו היום הוא מעקב. ועוסקים במעקב, באיסוף מידע, ובפיתוח כלים כאלה בלי לשאול יותר מדי שאלות, ובלי להתחבר יותר מדי לשיח המתהווה סביב אתיקה של כלים כאלה".
אבנון קצת יותר מסויגת. "ראיתי דילמות וקושי", היא אומרת על המרואיינים שלה. "הרי מה זה מהנדסים? כולנו למדנו איתם בתיכון. הם חברים שלנו. אני נשואה לאחד. זה לא מחוץ לעולם שלנו. דן עבד איתם. זה אנשים כמונו. היום רוב החבר'ה הצעירים הולכים למקצועות האלה. זו הפרנסה הטובה בישראל".
ואילו ריבנאי בהיר מדגישה שכסוציולוגים, הם מנסים להבין איך מושאי המחקר חושבים, ולא לקבוע אם הבחירות שלהם נכונות או טובות. לדבריה, הם ניסו להבין מהו "ארגז הכלים המוסרי" שעומד לרשות מדעני הנתונים. ומה שמייחד את המקצוע בהקשר הזה, הוא שבעוד שלמקצועות כמו עריכת דין ורפואה יש מוסדות מסודרים העוסקים בסוגיות אתיות, בתחום של מדע הנתונים יש ואקום. "יכולה להיות דילמה אישית, של 'אני לא מרגיש נוח עם אופציות בינאריות, פרסום או נשק - אבל אין לי כל כך מה לעשות עם זה'", אומרת אבנון. "אין מוסדות, אין קולקטיב".
ויש גם הבדל מסוים בין ישראל לשאר מוקדי הטכנולוגיה בעולם. "תוך כדי המחקר, ראיתי ב־2018 התעוררות בקהילת מדעני הנתונים הבינלאומית", אומרת אבנון, "של דיבור על אתיקה, וקוד אתי למדע הנתונים. התחיל שיח, אבל הוא לא תפס אחיזה כאן בארץ. והשאלה היא למה: במה ישראל שונה ממקומות אחרים. מה קורה פה?".
אתיקה בדמות חד קרן
כל אחד מהחוקרים מגיע מכיוון קצת אחר. אבנון כאמור מתעניינת בחקר מקצועות; ריבנאי בהיר עבדה במשך עשור במחלקה למדעי ההתנהגות של צה"ל ומתמקדת באקטיביזם דיגיטלי, ואילו קוטליאר, שעבד בתעשייה אחרי התואר הראשון - חוקר את הקשר שבין אלגוריתמים לתרבות. "נחשפתי לעולם של ביג דאטה ובינה מלאכותית, ובצעד לא הכי חכם כלכלית אמרתי - אני אחקור את זה סוציולוגית במקום לעבוד בזה'". השלושה אף פיתחו קורס בנושא המיועד למוסדות אקדמיים שמכשירים מדעני נתונים.
את הראיונות ערכה אבנון בקרב 50 מדעני נתונים ב־2016־2017, בעיקר בשעות ערב או בהפסקת הצהריים, מחוץ לדלתות המשרדים, שלא נתנו לה להיכנס. מאז עברו חמש שנים ודברים השתנו, היא מבהירה. קהילת מדעני הנתונים התפתחה, הביקורת החברתית עליה גברה - וגם הביקורת העצמית. ומצד שני, "הכוח שלהם רק מתעצם. יותר ויותר משימות נמסרות לידיים של מפתחי אלגוריתמים".
אז איך מדעני נתונים חושבים על אתיקה? קודם כל, כעניין אישי. או כמו שקוטליאר מנסח: "כל הסיפור הזה של אתיקה ומוסר יכול להיות סופר חשוב לי, אבל בגבולות הנפש והגוף שלי. ולכן, גם אם אני חושב שכאדם אתי זיהיתי פגיעה, נגיד ייצור פלטפורמות של פורנו או מעקב, אז המקסימום שאני יכול לעשות זה לבחור בחברה אחרת, במעסיק אחר".
"הם לא יכולים לדמיין מצב שבו אנשים יושבים ביחד ומנסחים כללים של עשה ואל תעשה", מוסיפה אבנון, "הם עוסקים הרבה ב'פה אני מוכן לעבוד, פה אני לא מוכן לעבוד'. אבל כשעימתתי אותם עם כך שבמקצועות אחרים יש קוד אתי, אמרו לי שזה שטויות. 'אין פסיכולוגים שמנצלים את המטופלים שלהם?'".
המתח בין המוסר האישי לכלל מתבטא בדבריו של זיו, מדען נתונים בחברת סטארט־אפ שרואיין למחקר: "כבן אדם, אני אנסה לתרום לעולם ולא להזיק לו. אבל הרבה דברים לא בסדר בעולם המידע. אנחנו פשוט חבורה של חנונים, שאנחנו לא נעשה שום דבר. אבל בסוף, כן, אפשר בנתונים לעשות הרבה רע לאנשים בעולם, הרבה מאוד רע".
עד כמה זה שונה ממישהו שמחליט לעבוד בחברה שמייצרת טילים, סיגריות או ממתקים?
"בהרבה מהמקרים האלה אתה יודע לאן אתה נכנס, ומרגע שנכנסת אתה מקבל על עצמך את מה שמקום העבודה עושה".
"השאלה מה קורה בהכשרה שלך", אומרת אבנון. "ההנחה היא שאתה לא הולך לעשות איזה תפקיד ונכנס לחברה סתם. אתה מומחה. אתה לוקח על כתפיך אחריות, והוכשרת במשך שנים ארוכות. האם דיברו איתך בהכשרה על איזה בעיות עלולות להיווצר כשאתה מפעיל את המומחיות שלך? האם הקולגות שלך ואתה יכולים לדבר על זה בפתיחות? אם אתה חושב שזה קשור לאופי שלך, זה שונה מלחשוב שיש למקצוע שלנו גבולות ומה הבעיות שיכולות להיווצר".
תפיסה נוספת שאתם מדברים עליה במאמר היא ש'האתיקה היא מקל בגלגלי הקידמה'.
"זה היגיון עמוק מאוד בתרבות הטכנולוגית", אומרת אבנון. "נתקלתי בזה גם בקורס שלנו בטכניון, כשהסטודנטים כעסו שאני לא נותנת לציפור לעוף חופשי. יש תפיסה כזאת שהטכנולוגיה היא בהכרח מיטיבה. מה שנקרא, 'דטרמיניזם טכנולוגי'. לקדמה יש חוקים משלה והיא מתארגנת לבד, ואי אפשר לעצור את זה. האנושות תתאים את עצמה לקדמה הטכנולוגית".
"תוך כדי יש תפיסה מאוד מושרשת שגם אם יש בעיות בחברה, אז הדרך לפתור אותן היא באמצעות הטכנולוגיה", מוסיף קוטליאר. "הטכנולוגיה היא הפתרון, גם אם היא איכשהו מהווה סוג של בעיה".
כי אם הבעיה היא טכנולוגית אז הפתרון יהיה טכנולוגי?
"גם אם הבעיה היא לא טכנולוגית", אומרת אבנון. "גם אם הבעיה היא בדידות, הפתרון הוא טכנולוגי. ואם הבעיה היא שעמום או ריקנות - הפתרון הוא טכנולוגי. כל דבר אפשר לפתור באמצעות טכנולוגיה יותר טובה. זה מעלים את הצד החברתי".
צורת החשיבה, מוסיף קוטליאר, רואה באופן מובנה "אתיקה ומוסר כשיחים אנכרוניסטיים שעבר זמנם. שאולי הם פה עכשיו, אבל הם בדרך החוצה".
למה בעצם?
"כי אולי עוד אכפת לנו מפרטיות עכשיו, אבל זו נורמה בת חלוף", אומר קוטליאר. "ולכאורה נבין שמה שטוב וטבעי לנו זה לוותר על הפרטיות, לקבל את המעקב".
התפיסה הזאת משתקפת היטב בציטוט של אחד המרואיינים במאמר: "יסתובבו לנו חיישנים בתוך הדם וידווחו מה מצב הלב שלנו בכל שנייה. אנחנו נשדר כל כך הרבה אינפורמציה לסביבה שלנו שתחשוף אותנו, כאילו שאנחנו הולכים עירומים ברחוב. וזה לא יפריע לנו, זה לא יטריד אותנו לשנייה אפילו. עוד עשר שנים את תראי שאני צודק".
בתפיסה השלישית שאתם מתארים, האתיקה כן נכנסת לדיון אבל כמוצר אפשרי. כפיצ'ר.
"כן. כי בתחומים האלה, הכוח שאולי משתווה לכוח הטכנולוגי הוא הכוח הפיננסי", אומר קוטליאר. "היכולת להפוך את הסוגיה האפרורית הזאת למשהו בעל ערך היא רק אם הערך יהיה כלכלי, או קודם כל כלכלי. ואז אם נוכל באמת לבנות סטארט־אפ שיבטיח שמירה על פרטיות או מניעת אפליה, אז פתאום זה כן נהיה מעניין".
תוכלו להרחיב?
"המרואיינים אז לא יכלו לדמיין מצב שבו אתה אומר 'את זה אני לא עושה, לא משנה כמה כסף תתנו לי. ולא רק אני, אנחנו לא עושים את זה. אנחנו כמומחים'", אומרת אבנון. "בניגוד למוסכמות רפואיות, שמי שמפר אותן הולך לבית הסוהר ונשלל לו הרישיון, או שהקהילה המדעית מגנה אותו. מה המרואיינים אומרים? 'אוקיי, אנחנו רוצים לשמור על ערכים כלשהו, אז נעשה מהם מוצר. אנשים רוצים פרטיות? נמכור פרטיות. אנשים רוצים שקיפות? נמכור שקיפות. אפשר לעשות מסחור מכל הסוגיות האתיות שעולות. אתם רוצים אלגוריתם שניתן להבין את ההיגיון בהחלטות שלו? תשלמו'".
"זה מתוך תפיסה שמה שבאמת יכול להסדיר את החברה, אם לא הטכנולוגיה, זה השוק", מוסיף קוטליאר, ואבנון משלימה אותו: "זו ליברטריאניות כזאת".
אגב, גם אנשים לא מהתחום תוהים לפעמים למה אף אחד לא מקים רשת מתחרה עם מודל עסקי שונה, שתציע פרטיות. צורת ההסתכלות הזאת חלחלה לשיח הרחב יותר.
אבנון: "ברור שזה יחלחל".
קוטליאר: "וזה לא בהכרח שלילי, אבל זה פשוט דוחק הצידה פתרונות מסוג אחר כמו עבודה ביחד כארגון עובדים, כוועד, קיום שיח פנימי ער. כל מיני פתרונות אתיים, גם אם אין בהם אופק להפוך לחד קרן יותר מאוחר".
אבנון מחדדת שלא מדובר על עבודה מאורגנת במובן הסוציאליסטי. "יש הבדל עצום בין איגוד מקצועי לאגודה מקצועית. אלה שתי אסטרטגיות שונות. אנחנו מדברים על אגודה, שהניסיון שלה להשפיע על העבודה הוא לא להילחם על התנאים ולצאת לשביתות. זה לא העניין פה. האגודות עסוקות בתוכן העבודה, מה מותר ואסור לעשות. מה הסטנדרטים של המומחיות".
הכול מתחיל בצה"ל
סיכום ביניים: מדעני הנתונים, כך לפחות עלה מניתוח הראיונות על ידי הסוציולוגים, תופסים את הדילמות האתיות כעניין אישי ולא קולקטיבי, רואים את ההתערבות בקידמה הטכנולוגית כחסרת תוחלת, ואם האתיקה נכנסת לשיקולים - זה כשניתן להפוך אותה למוצר. אבל מהיכן מגיעה התפיסה הזו? מה בעצם מייחד אותם לעומת רופאים או עורכי דין? החוקרים סבורים שחלק מהעניין נובע ממאפייני ההנדסה, מקצוע האם של מדע הנתונים. "הנדסה היא מקצוע חריג בהיסטוריה של מקצועות הידע", מסבירה אבנון. "מהנדסים הם מומחים טכניים, והם היו צריכים לבנות את המקצוע שלהם בתוך ארגון שמתחרה בשוק ויש לו שורת רווח שצריך לרצות אותה. זה קונפליקט נאמנויות: נאמנות למומחיות הטכנית הרציונלית, לעומת נאמנות לארגון קפיטליסטי. בתוך המשחק הזה הם פיתחו שיטות אחרות שהן לא קוד אתי או ארגוני עובדים. הארגונים המקצועיים שלהם גם מעולם לא היו כל כך חזקים: הם כן קובעים סטנדרטים אתיים, אבל הם לא כל כך מפטרים מהנדסים או שוללים רישיונות.
"מהנדסי תוכנה הם בכלל נגד: מאז שהמקצוע קם, בשנות החמישים של המאה שעברה, אין רישיון ואין הסמכה להנדסת תוכנה - כי הם לא רוצים. כמו עיתונאים, הם רוצים כניסה חופשית של אנשים פנימה. זה אתוס מקצועי מסוים.
"אבל", אבנון ממשיכה, "זו לא סביבה חברתית נעדרת פיקוח, הוא פשוט לא פורמלי. אם הייתה כניסה חופשית למקצוע, לא היה שם רוב גברי".
"מדע נתונים", היא מחדדת, "הוא מקצוע מיוחד, כי הוא יוצא מגבולות הארגון ומגבולות המחשב. אלו מערכות שמנסות להתערב בחברה ממש. בקבלת החלטות רפואיות, משפטיות. ולכן האתיקה של התחום מעניינת".
ואולי ההסבר הפוך? אולי יש פשוט צורת חשיבה שמאפיינת מהנדסים?
"אני מנועה מלהגיב", אומרת אבנון, "אני נשואה למהנדס, ובת למהנדס".
"אשתי היא חוקרת ספרות, אז אני יכול לדבר על מהנדסים", צוחק קוטליאר, "כסוציולוגים אנחנו לא מניחים שלאדם כלשהו יש טבע X. בראי הסוציולוגיה, הנטיות האישיות שלנו נובעות מהקשרים חברתיים: כמו ההכשרה שלנו, איך חינכו אותנו, המדינה סביבנו".
ובישראל, עבור חלק לא מבוטל מהאוכלוסייה, ההקשר החברתי כולל שירות בצבא. "כשמסתכלים על תעשיית הטק הישראלית על כל גווניה, ועל ההתפתחות של התעשייה הזאת בעשור האחרון, אי אפשר להתכחש לתפקיד המאוד מאוד מרכזי שיש לצבא באופן שבו העולם הזה מתעצב בהיבט הכלכלי והטכנולוגי, וגם במרקם החברתי שנוצר", אומרת ריבנאי בהיר ומדגישה שהתובנות שלה נשענות על הפרספקטיבה שרכשה בצה"ל, ולא על מידע סודי כלשהו אליו נחשפה.
"אלה מילים רחבות. כשפורסים את זה לתהליכי עבודה", היא ממשיכה, "כשיורדים לרצפת הייצור - אתה נכנס בדלת של החברות האזרחיות, מסתכל על השולחנות מסביב, על תרבות העבודה, ואומר - אם אני ממצמץ לרגע אני יכול לדמיין את אותם שולחנות, אותם סדרי עבודה, אותם מחשבים - רק עם חיילים בצבא. יש דופליקציה של הטכנולוגיות, של תהליכי עבודה, של תפיסת העולם".
ריבנאי בהיר מדגישה שמדובר בהתרשמות, לא בממצא אמפירי. ובכל זאת. "הטענה שאיתה אנחנו יוצאים למחקר", היא מסבירה, "היא שסביבת עבודה, קונטקסט ארגוני ומקצועי, כל אלו מעצבים את התפיסות. ברגע שהגוף הזה (הצבא) הוא מאוד מרכזי בעולם הטכנולוגי, אז יש לו גם השפעה על עיצוב האופי של המהנדסים.
"ואגב, לצבא יש נגיעה רחבה הרבה יותר. הוא מממן הרבה מהפרויקטים האזרחיים, וגם אם הם לא קיבלו מימון בפיתוח אז יש רכישה שלהם, או ניסיון לרכוש. הכלים השלובים הרבה יותר רחבים מחיילים של 8200 שממשיכים לתעשייה".
"הרגולציה בלעה את האתיקה"
הראיונות כבר בוצעו לפני כחמש שנים, ובתחום שרק הולך ומתפתח - ניתן להבחין בשינוי של השנים האחרונות: "יש דוגמאות של עובדים בעמק הסיליקון", אומר קוטליאר, "באמזון או בגוגל, שפעלו כקולקטיב נגד התוכניות של החברות שלהם עם הפנטגון או כנגד הייצור של כלי מעקב, מתוך תובנה שיש להם כוח לפעולה מוסרית-אתית".
ההתפתחויות בעמק הסיליקון מובילות להשוואה מתבקשת לישראל. איך אתם מסבירים את זה שמלבד כמה עובדים שהצטרפו למחאת גוגל ב־2018 - לא רואים פה כמעט התארגנות?
קוטליאר: "חיפשנו הסברים שנכונים ספציפית לתרבות שלנו, ועם זאת, לא מתוך טענה שהתרבות הישראלית פחות אתית או מוסרית. יש משהו בישראל, שתופסים דברים כמו מעקב כחלק מהיומיום שלנו - מהשומרים בכניסה לקניונים דרך הגאווה שהבנים והבנות שלנו משרתים ב־8200 או במוסד. זה בא מתוך תפיסה שיש לה בסיס עובדתי, שבטרייד אוף בין פרטיות לביטחון - יש ערך לאובדן הפרטיות ולמעקב".
"במחקר אחר היה לי מרואיין שאמר משהו כמו 'שמע, אנחנו גדלנו בתקופה של אוטובוסים מתפוצצים ופיגועים בבתי קפה. אז אלגוריתם שמפלה במחיר, שמוכר למישהי משהו במחיר קצת יותר יקר, זה לא כזה ביג דיל'. כלומר יש תחושה שהעיסוק בשאלות האלה לא כל כך חשוב יחסית לבעיות שאנחנו מכירים מקרוב בארץ.
בנוסף, אומר קוטליאר, שחזר לפני כמה חודשים מפוסט דוקטורט בסטנפורד שבלב עמק הסיליקון: "יש שם שיח מאוד חזק בנושא זכויות אזרח ואפליה, סביב Black Lives Matter, שבארץ בדרך כלל נדחק לשוליים. אבל בסופו של דבר כל הסיפור של ה־Google Walkouts והמחאות בעמק הסיליקון זה עדיין היוצא מהכלל. זה לא הפך סדרי עולם. זה לא שצוקרברג החליט לוותר על מעקב ולעבור למודל כלכלי אחר. זה בכל זאת שוליים, די רועשים - אבל שוליים".
ריבנאי בהיר מבקשת להזכיר שלכל חברה יש מאפיינים משלה. גם "התרבות הטכנולוגית בגרמניה היא לא אותו דבר כמו בארה"ב, וכך גם התרבות הטכנולוגית ביפן".
לסיום, צריך להתעכב על התפתחות משמעותית שחלה בתחום בשנים האחרונות: "אחד הדברים העיקריים המרכזיים שקרו מאז 2017", אומר קוטליאר. "הוא שנכנסה חקיקת ה־GDPR באירופה וה־CCPA בקליפורניה (בשני המקרים מדובר בחקיקה המסדירה פרטיות - א"פ). ובאמת בעמק הסיליקון השיח סביב אתיקה עבר משפטיזציה: 'דבר עם עורך הדין של החברה, או עם אחראי הפרטיות'. בעינינו זה צעד חיובי, אבל ממש לא מספיק".
למה? אולי אפשר לוותר על התקווה שהמקצוע יאמץ כללים אתיים ופשוט להורות: 'תחשפו בפנינו את האלגוריתמים, תשמרו על פרטיות ותמחקו היסטוריה, ולא משנה מה האתיקה האישית שאתם אוחזים בה'.
"אז זהו שאי אפשר", אומרת אבנון. "כי מי שמפתח את הטכנולוגיה, המומחים שעומדים בראש החץ, הם הראשונים שמדמיינים את הפעילות של האלגוריתמים ואיפה אפשר ליישם אותם. ואלה האנשים שהייתי רוצה שתהיה להם תודעה של אחריות חברתית. הרגולציה היא תמיד באיחור של 20־25 שנה".
ריבנאי בהיר מחדדת: "הרגולציה בעצם בלעה את כל תחום האתיקה וצבעה אותה בצבע משפטי. היום השאלה היא אם אני מציית לתקנות, ואין חשיבה יותר עצמאית של איפה הגבולות שלי, איך אני תופס את המוסר".
"אבל יש שינוי", קוטליאר מסכם, "והשיח משתנה גם בארץ. קח את הדיון בטוויטר סביב הסרטון של ראפיד (סרטון גיוס שצולם לטענת החברה על ידי הדי־ג'יי סקאזי וביוזמתו, וכלל צפייה בפורנו בעבודה - א"פ) - אולי זה פחות אתיקה אלגוריתמית, אבל בגלל תופעות כמו MeToo# יש דיון ער על ההשלכות החברתיות של הפעולות שלנו בעולם. אז אנחנו אופטימיים".