נשיאת סיגנל על הסכנה שב-AI: "הבוטים אינם חבריכם"

בראיון עומק שהעניקה לאחרונה לרשת בלומברג, נשיאת קרן סיגנל (Signal) מרדית ויטאקר, מבקשת לנפץ אשליה נפוצה ומבהירה נחרצות כי תוכנות הבינה המלאכותית אינן חברות של המשתמשים ואינן ישויות בעלות תודעה. בשיחתה עם בלומברג היא מציבה תמרור אזהרה מול המגמה שבה משתמשים מפתחים יחסים ורגשות עם הבינה המלאכותית ומשתפים את הצ'אטבוטים בסודותיהם. בנוסף, היא הדגישה כי שילובם הגובר של סוכנים חכמים בחיינו טומן בחובו סכנה ממשית למעקב חודרני ולפגיעה בביטחון הדיגיטלי.

לדבריה, ברגע שסוכנים אוטונומיים אלו דורשים במקביל הרשאות גישה נרחבות לנתונים אישיים מרובים – כמו היסטוריית גלישה, יומנים, כרטיסי אשראי והודעות פרטיות – הם למעשה מייצרים "דלת אחורית" מסוכנת העוקפת מנגנוני הגנה רשמיים, ומאיימים לרוקן מתוכן את ההבטחה לפרטיות גם ביישומים המאובטחים והמוצפנים ביותר.

ויטאקר נחשבת כיום לאחד הקולות המשמעותיים והמשפיעים ביותר בתחום האתיקה של הטכנולוגיה, ואף נכללה ברשימת 100 המשפיעים בתחום הבינה המלאכותית של מגזין טיים לשנת 2023. הרקע העשיר שלה מסביר היטב מדוע היא זוכה לבמה תקשורתית כה מרכזית כמו ראיון אקסקלוסיבי בבלומברג: היא כיהנה במשך 13 שנים בחברת גוגל (Google), שם הובילה בין היתר את מחאת העובדים ההמונית נגד מעורבות החברה בפרויקטים צבאיים ונגד הטיפול הלקוי בהטרדות מיניות.

בהמשך דרכה, ויטאקר ייסדה מכון מחקר באוניברסיטת ניו יורק (NYU) ושימשה כיועצת בכירה לענייני בינה מלאכותית ב-FTC – נציבות הסחר הפדרלית של ארצות הברית. החל מסתיו 2022 היא מכהנת כנשיאת סיגנל – עמותה ללא מטרות רווח שמפעילה אפליקציית מסרים חינמית המבוססת על פרוטוקול אבטחה של הצפנה מקצה לקצה. בניגוד למתחרותיה המסחריות, ובעיקר ל-ווטסאפ (WhatsApp) הפופולרית מבית מטא (Meta), סיגנל נמנעת כמעט לחלוטין מאיסוף מטא-דאטה על המשתמשים, מה שהופך אותה לפלטפורמת תקשורת מועדפת וחיונית עבור פוליטיקאים, עיתונאים חוקרים ופעילי זכויות אדם ברחבי העולם.

אשליית הקשר האישי והיחס לצ'טבוטים

בעידן שבו מודלים שפתיים מתקדמים הופכים לחלק בלתי נפרד מהיומיום של כולנו, משתמשים רבים, כך מסתמן, מתחילים לפתח כלפי הסייעים הדיגיטליים מבוססי ה-AI יחס רגשי קרוב. עם זאת, ויטאקר יוצאת נגד התופעה ומספרת כי היא אישית שומרת על מרחק מהכלים הללו ולא מתייעצת איתם בשום שלב.

לדבריה, היא נעזרת בכלים אלו לעיתים נדירות בלבד ורק למטרות טכניות של עיצוב מסמכים, שכן היא מסרבת לתת למערכת, שכל תכליתה היא לייצר ממוצע סטטיסטי של נתונים קיימים, להחליף או לפגוע בתהליך החשיבה והכתיבה האינטלקטואלי העצמאי שלה.

סכנת הסוכנים העצמאיים והדלת האחורית

אזהרותיה של נשיאת סיגנל מקבלות משנה תוקף אל מול חזונם של מובילי תעשיית הטכנולוגיה בעמק הסיליקון שמבקשים להפוך את המערכות לסוכנים אוטונומיים לחלוטין שינהלו את החיים האישיים של כולנו.

כך למשל, בשונה מ-ויטאקר, מוסטפא סולימאן, מנכ"ל מיקרוסופט AI, מצהיר ומעודד חזון עתידי שבו עוזר וירטואלי כמו ה-'קופיילוט' (Copilot) של החברה יוכל לבצע עבורנו את קניות החג, תוך סריקת התכתבויות בקבוצות משפחתיות כדי להבין באופן עצמאי מה כל אחד מעדיף לקבל – כמנה וכמתנה. למרות שדווח כי סולימאן עצמו גם כן הזהיר בעבר מפני 'פסיכוזת AI' – מצב שבו אנשים נוטים להאמין בטעות שלצ'טבוט היו רגשות – התעשייה, שהוא מראשיה, ממשיכה לדחוף לשילוב אגרסיבי של הסוכנים כחלק מהחיים ומהמכשירים שלנו.

להבדיל, ויטאקר מסבירה שמודל פעולה כזה מייצר סכנת מעקב חמורה. כפי שכבר ציינו, לדבריה שילובם של סוכנים אלו ברמת מערכת ההפעלה דורש מהמשתמשים הרשאות גישה נרחבות לנתונים רגישים, ומהווה הלכה למעשה "דלת אחורית" אשר עוקפת מנגנוני הגנה, ועלולה לרוקן לחלוטין מתוכן את ההבטחה לפרטיות.

מאובטחת בהצפנה מקצה לקצה. אפליקציית סיגנל. צילום: ShutterStock

התנגשות של מודלים עסקיים ותגובות הנגד

התפישה המחמירה של סיגנל מתנגשת חזיתית עם המודל העסקי הנפוץ כיום בתעשייה, אשר מתבסס על מעקב, איסוף מידע המוני ומסחורו כדי להזין ולאמן את מערכות הבינה המלאכותית. כל זאת בזמן שחברות הענק המסחריות בוחרות להדוף בתוקף את הטענות על פגיעה אפשרית בפרטיות המשתמשים.

כמענה ישיר לביקורות שעולות סביב סוגיות של הגנת נתונים, ובהתייחסות לאופן שבו הן מנהלות את השירות שלהן בהשוואה ל-סיגנל, הגיב דובר מטעם ווטסאפ לבלומברג ולראיון עם ויטאקר והצהיר כי החברה מתייחסת ברצינות לפרטיות גם מעבר להצפנת ההודעות. הדובר הדגיש כי: "איננו שומרים רישומים לגבי מי שולח הודעות או מבצע שיחות. איננו עוקבים אחר ההודעות שאנשים שולחים זה לזה לצורך פרסומות. איננו מוכרים נתוני משתמשים".