מכה לטרולים: האלגוריתם שמונע ויכוחים ברשת מבעוד מועד

חוקרים מאוניברסיטת קורנל, מחברת האחות של גוגל Jigsaw ומקרן וויקימדיה יצרו תוכנת AI שיודעת לנבא מתי שיחה ברשת עומדת להפוך לוויכוח. התוכנה סורקת את השיחה, מחפשת רמזים מילוליים שונים, וקובעת אם תסתיים באופן נעים או צורם. התוכנה אומנה לפי דוגמאות שנמצאו בעמודי השיחה בערכי ויקיפדיה, בהם עורכים בויקיפדיה דנים בשינויים נחוצים בערך.

התוכנה מחפשת מאפיינים בשיחה שנקבעו מחקרית ככאלה שמצביעים על מצב רוח מסוים. שימוש במילה "בבקשה" למשל קושר לשיחות שמתנהלות באופן נעים. לעומת זאת, שאלות רבות וחוזרות בשיחה אופיינו כסימן אזהרה לאופי שלילי שלה. התוכנה מצליחה לקבוע תחזיות נכונות ב-65% מהמקרים, נתון שעדיין נמוך מהיכולת האנושית שמדייקת ב-72% מהמקרים.

בתוכנה כזו ניתן להשתמש כדי להתערב בשיחות שעומדות להפוך לאגרסיביות כדי להזהיר את המשתתפים, וכך להפוך את המרחב האינטרנטי לידידותי יותר. צעד כזה גם מעלה שאלות, כגון אילו סוג של דיונים כדאי להפסיק, והאם יש ויכוחים (למשל בדיונים פוליטיים) בהם דווקא לא היינו רוצים התערבות של בוט שיפסיק אותן.

ג'סטין זאנג, סטודנטית לדוקטורט מאוניברסיטת קורנל שהשתתפה בפרויקט, אמרה לאתר The Verge כי שאלות כאלה נלקחו בחשבון, וכי הצוות גילה כי "חלק מאי ההסכמות בין אנשים מובילים לדיונים שתורמים למשתתפים", ובמקרים כאלה לא כדאי שהתוכנה תתערב מוקדם מדי. בנוסף, היא ציינה כי "יש מקרים בהם אנשים מצליחים להתאושש בעצמם משיחות שליליות, ולכן השאלה מתי על המכונה להתערב בשיחה היא מעניינת מאוד".