זיהוי פנים / צילום: Shutterstock, DedMityay
שוורץ אלטשולר היא מומחית למשפט וטכנולוגיה במכון הישראלי לדמוקרטיה, כהנא הוא חוקר במכון. ספרם, "האדם, המכונה והמדינה - לקראת אסדרה של מערכות בינה מלאכותית", יצא לאור לאחרונה
בערב ראש השנה פורסמה טיוטת תזכיר חוק לתיקון פקודת המשטרה, כדי שזו תונח על שולחן ועדת השרים לענייני חקיקה ביום שני שלאחר החג, ואכן, התיקון אושר בוועדת השרים.
זיהוי פנים הוא אחד הנושאים הנפיצים בסביבה הטכנולוגית, אבל נראה כי לפי דעתם של מגישי ההצעה, שרי הממשלה לא זקוקים לזמן למידה של העניין. כנראה שבממשלה מתעוררים לפעולה בנושאי מעקבים דיגיטליים רק כשמדובר ברוגלות מעקב ובמשפטי נתניהו.
● שאלות ותשובות | "חוק האח הגדול" אושר בוועדת השרים. מה המשמעות שלו?
תזכיר החוק עוסק בזיהוי פנים אנושיות באמצעים טכנולוגיים מבוססי בינה מלאכותית. התזכיר מאפשר שימוש בזיהוי פנים לא רק כדי לפענח בדיעבד חשד לפשע וחיפוש חשוד ספציפי לאחר שמתקבל צו בית משפט, אלא גם כדי להקים מערכת "מעקב המונים" של מצלמות (לרבות ניתוח מידע חזותי ממצלמות "טיפשות" שאליהן למשטרה כבר יש גישה כגון המצלמות המופעלות על־ידי רשויות מקומיות), שמאפשרות זיהוי של כל מי שהולך ברחוב, ככלי מניעתי, בין השאר לצורך אכיפת איסורי כניסה וצווי הרחקה. כלומר, מדובר במערכת שמיועדת לדיכוי הפגנות. אומנם בתיקון חפוז תוך כדי הדיון בוועדה התווסף סעיף המחריג "אירועים של חופש ביטוי", אך זהו מושג שהגדרתו לא ברורה.
האישורים להפעלה והצבת מצלמות ביומטריות הם פנים־משטרתיים, על-ידי קצין בדרגת ניצב ומעלה וללא פיקוח בית משפט, וככלל ההסדרים בתזכיר משאירים טווח רחב של פעילות עבור המשטרה. אכן, המשטרה תצטרך לדווח ליועמ"ש ואחת לשנה גם לוועדה לביטחון הפנים, אבל הסדרים דומים של דיווח לא עזרו כשדובר ב"פגסוס".
עדיין לא נכנס לשימוש
להבדיל ממערכות מעקב אחרות שהוכנסו לשימוש בחשאי, ועובדת קיומן, בלי סמכות, נתגלתה כעבור שנים, אנו מקווים שמערכות זיהוי פנים עדיין לא בשימוש פעיל. בשל כך חובה לעצור ולשאול האם אנו רוצים את הטכנולוגיה הזו בידי המשטרה? האם יתרונותיה המבצעיים מצדיקים את הפגיעה שהיא מביאה?
שימוש במערכות זיהוי פנים על-ידי מערכות אכיפת חוק מעורר שורת בעיות קשות. ראשית, מערכות לזיהוי פנים אינן נעצרות בידיעה מי היה, היכן ומתי, אלא מסוגלות לנתח מצבי־רוח, נטייה מינית, מוצא אתני ועוד. הדבר עשוי להעניק למשטרה גישה למידע רגיש ביותר שנמצא בליבת הזכות לפרטיות.
שנית, המערכות נוטות לטעויות, ביחוד כשמדובר באנשים בעלי צבע פנים כהה, מה שיכול לגרום לאכיפה שגויה ולא מוצדקת.
שלישית, יצירת מאגר כל־כך רגיש בידי המשטרה מעורר חשש לדליפה שלו ואפילו של שימוש לרעה על־ידי בעלי גישה, שהיא רעה חולה שכבר ראינו במשטרה בעבר.
רביעית, הצבת מערך מצלמות חכמות במרחב הציבורי תמנע מאנשים להתנהג באופן חופשי ולממש את הזכויות הפוליטיות שלהם. העבר הוכיח: היום זה קפלן, ומחר מפגיני ימין, חרדים או אתיופים.
למעלה מכל אלה, מערכות איסוף מידע כלליות מעניקות למשטרה מידע לא קונקרטי והופכות את המשטרה לשב"כ. מידע כללי בידי המשטרה משנה את יחסי הכוחות בין המשטרה לאזרחים ולדרג הפוליטי.
המגמות במערב הפוכות
הבעיות האלה אינן ייחודיות לישראל, והמגמה במערב היא לאסור על מערכות אכיפת חוק להשתמש בשגרה במערכות זיהוי פנים. ערים רבות בארה"ב אוסרות על המשטרה לעשות שימוש במערכות, וחברות טכנולוגיה גדולות מפסיקות לממן מו"פ בתחום.
חוק הבינה המלאכותית החדש של האיחוד האירופי אוסר באופן גורף זיהוי פנים מבוסס בינה מלאכותית בזמן אמת על-ידי רשויות אכיפת חוק, ובדיונים סביבו נאמר במפורש שזיהוי הפנים יהיה סימן ההיכר בין דמוקרטיות לדיקטטורות.
העובדה שדווקא כעת בוער לממשלה להוציא את עצמה מקרב קבוצת המדינות המתוקנות צריכה להטריד כל אחד, ובייחוד את אלה שהחשש מפני שימוש לרעה בטכנולוגיות מעקב הפך לדגל שהם נושאים.