דוח אמון
2019
הנקראות ביותר

"בינה מלאכותית אתית תיתן לאירופה יתרון תחרותי"

הנציבות האירופית הגדירה עקרונות שיהפכו את הבינה המלאכותית לאתית יותר, בהם השגחה של בני אדם, שקיפות ושמירה על המידע

בינה מלאכותית / שאטרסטוק
בינה מלאכותית / שאטרסטוק

הנציבות האירופית פרסמה קווים מנחים לפיתוח ושימוש במערכות בינה מלאכותית, במטרה שהשימוש בטכנולוגיה החדשה ייעשה באופן אתי, וכדי להפוך אותה לראויה לאמון הציבור. הקווים המנחים באים לתת מענה לכך שהפיתוחים בתחום הבינה המלאכותית מעלים שורה של שאלות אתיות, בהן חשש מהאפשרות שמערכות כאלה יפלו לרעה חלק מהאוכלוסיה, יגרמו לרבים לאבד את עבודתם, ושייעשה בהן שימוש לרעה ע"י משטרים אוטוריטריים או כחלק מנשקים קטלניים.

הנציבות הצהירה כי "בינה מלאכותית יכולה להועיל לסקטורים רבים, כמו בריאות, אנרגיה, בטיחות ברכבים וניהול סיכונים פיננסי. היא יכולה לסייע לזהות הונאות ולאפשר לרשויות החוק להילחם בפשע ביעילות רבה יותר, אך היא מביאה איתה גם אתגרים חדשים, ומעלה שאלות חוקיות ואתיות".

הקווים המנחים שהנציבות הגדירה כוללים את הדרישה שהמערכות האוטומטיות ימשיכו להיות תחת השגחה של בני אדם, הפיכת התהליכים שהמערכות מבצעות לשקופים כך שניתן יהיה לעקוב אחריהם, דרישה כי הם יהיו מאובטחים ומהימנים, ושיעמדו בחוקי הגנה על פרטיות ודאטה. בנוסף, הקווים המנחים דורשים החלת מנגנונים שיהפכו את המערכות לאחראיות להשלכות של פעולותיהן וימנעו מלעשות בהן שימוש לרעה, וכן דרישה שפעולותיהן יתמכו בזכויות יסוד, יעודדו שינוי חברתי חיובי ואחריות אקולוגית. בנוסף, נכתב כי למשתמשים ביישומים צריכה להינתן שליטה מלאה על הדאטה שלהם, כך שהדאטה לא תהיה בשימוש כדי להפלות או לפגוע בהם.

הדרישות מתבססות על טיוטה שפורסמה בדצמבר בעקבות עבודה של 52 מומחים שהאיחוד האירופי גייס ביוני בשנה שעברה לטובת המאמץ. המומחים הגיעו מהאקדמיה, גופי ממשל ותעשייה וחברות טכנולוגיה מובילות הכוללות את IBM, גוגל, ו-SAP.

הנציבות גם אמרה כי אירופה נמצאת מאחור מבחינת ההשקעות בבינה מלאכותית, ושבתחום באירופה הושקעו בין 2.4 ל-3.2 מיליארד אירו בלבד ב-2016, בהשוואה ל-10.9 מיליארד אירו באסיה ו-20.9 מיליארד אירו בצפון אמריקה. לדברי הנציבות, הקווים המנחים החדשים יביאו דווקא להגברת ההשקעות הפרטיות והציבוריות בתחום. אסטרטגיית הנציבות שואפת להגדלת ההשקעה בתחום ב-20 מיליארד אירו בשנה לפחות בעשור הקרוב, להפוך דאטה רב יותר לזמין באירופה, להבטיח אמון בטכנולוגיה ולטפח כישרון.

בשלב הבא, הנציבות מזמינה חברות, ארגוני מחקר ורשויות ציבוריות להירשם לפיילוט שיחל ביוני במסגרתו ייבחנו העקרונות החדשים. המומחים שהנציבות גייסה יבחנו את תוצאות הפיילוט והנציבות תחליט על צעדיה הבאים בהתאם להן, מתוך מטרה כי הקווים המנחים ייושמו בפועל. הנציבות רוצה גם לפעול ליצירת קונצנזוס בינלאומי בנושא בינה מלאכותית אתית ששמה את האדם במרכז. היא הצהירה כי תחזק את שיתוף הפעולה עם מדינות בעלות עמדות דומות לשלה כמו יפן, קנדה וסינגפור ותמשיך לשחק תפקיד פעיל בדיונים בינלאומיים בנושא.

"הממד האתי של בינה מלאכותית אינו פיצ'ר שהוא בגדר מותרות או כזה שצריך להוסיף בהמשך. רק באמצעות אמון, החברה שלנו תוכל להרוויח לחלוטין מהטכנולוגיות. בינה מלאכותית אתית תהווה מצב של win-win שיכול לתת לאירופה יתרון תחרותי, והיא תהיה מובילה בבינה מלאכותית ממוקדת אדם, עליה אנשים יוכלו לסמוך", אמר אנדרוס אנסיף, סגן נשיא הנציבות האירופית ומנהל התחום הדיגיטלי.

החקיקה מהווה דוגמה נוספת לרגולציה האירופאית כלפי טכנולוגיה וחברות טכנולוגיה, שנוקשה בהרבה מהרגולציה בארה"ב. לאחרונה אישר האיחוד האירופי רפורמה שנויה במחלוקת בחוקי זכויות היוצרים שמטרתה לעדכן את החוקים עבור עידן האינטרנט, ותביא לכך שפלטפורמות כמו יוטיוב ופייסבוק יהיה האחראיות החוקיות לשמור על זכויות היוצרים בתכנים שהמשתמשים מפרסמים. אירופה אף העבירה את חקיקת הפרטיות והדאטה הנרחבת GDPR, ובשנתיים האחרונות הנציבות האירופית הטילה על גוגל שלושה קנסות ענק על מעבר על חוקי הגבלים עסקיים, שמסתכמים בסכום של מעל 8 מיליארד דולר.

גוגל עצמה מנסה גם היא לפעול בתחום השאלות האתיות שסובבות את טכנולוגיית הבינה המלאכותית, ולאחר שבשנה שעברה התעוררה בקרב עובדי החברה מחאה בעקבות שיתוף פעולה סביב יישומי בינה מלאכותית עם הפנטגון, גוגל הגדירה סט ערכים בתחום הבינה המלאכותית. החברה אף הקימה לפני כשבועיים ועדה חיצונית שמטרתה הייתה לבחון את הסוגיות האתיות שעולות מהשימוש בטכנולוגיה, אלא שגוגל נאלצה לפזר אותה תוך שבוע בלבד מיום הקמתה בעקבות מחלוקות שנגעו להרכב הוועדה. הביקורת היתה בעיקר על השתייכות בוועדה של קיי קולס ג'יימס, נשיאת הארגון השמרני The Heritage Foundation, שנלחמה נגד הרחבת הזכויות לטרסג'נדרים בארה"ב, והביאה לכך שאלפי עובדי גוגל חתמו על עצומה להדחתה.

רוצה להשאר מעודכן/ת בנושא גלובס טק?
נושאים נוספים בהם תוכל/י להתעדכן
הסיפורים הגדולים של היום
נדל"ן
נתוני מסחר
שוק ההון
נתח שוק
דין וחשבון
הסיפורים הגדולים של השבוע
מטבעות דיגיטליים
✓ הרישום בוצע בהצלחה!
עקבו אחרינו ברשתות