ה-AI עלולה לשבש את הבחירות – אנחנו יכולים למנוע את זה

האיום שנופצץ במערכת הבחירות הקרובה בקמפייני תודעה, אמיתיים יותר ובעיקר פחות, הוא ממשי. כך גם העובדה שכמעט אין מה שיגן עלינו מפני הקמפיינים הללו, שעלולים להגיע ממפלגות כלפי מפלגות ומועמדים מתחרים, ואולי גרוע מכך – ממדינות זרות. כך או כך, מאוד סביר שהרעל הזה ישטוף את הרשתות החברתיות.

ועדת המשנה לבינה מלאכותית של הכנסת קיימה אתמול (ב') דיון בנושא, והרימה דגל אדום אל מול האיום הזה וההיערכות – או, יותר נכון, אי ההיערכות – של המדינה אליו. זו תהיה מערכת הבחירות הראשונה אחרי מהפכת הבינה המלאכותית, והיא תהיה בה פקטור משמעותי, עם פוטנציאל ברמה גבוהה להרס, עד כדי שיבוש הבחירות ותוצאותיהן.

הרעל וניסיונות ההשפעה כבר קיימים. את הרעל יכול לראות (ולהוסיף לו) כמעט כל מי שגולש ברשתות החברתיות, וקמפייני ההשפעה הוא גם נושא שמתחיל להיות מוכר למשתמש הישראלי הממוצע, גם אם לא לעומק. הקמפיינים הרעילים האלה מופצים, ובענק, בעיקר בעזרת בוטים, שמטרתם לגרום לאלגוריתם להבין שהתוכן שהם מפרסמים הוא בעל פוטנציאל חשיפה גדול – ולהעביר אותו לקהל היעד. התכנים האלה בדרך כלל כוללים הרבה מאוד פייק, עם או בלי גרעין של אמת.

מי שצפה בכתבה של אילן לוקאץ' ביום ו' האחרון באולפן שישי, שעסקה בבוטים הללו, יכול להפנים את גודל הסכנה. הכתבה המחישה איך מי שרוצים להפיץ את התכנים המזיקים האלה לכל אחד מאתנו יכולים לעשות זאת, בקלות ובזול. לפעמים ממש בזול.

הפתרון הוא בחקיקה עדכנית, שתיתן לה סמכויות וכוח אדם לעשות זאת. את החקיקה צריכים להעביר אותם חברי כנסת, שחלקם בונים את הקמפיינים שלהם על פייק ניוז, הסתה ושנאה. לכן, קשה מאוד לצפות שהם אלה שיפעלו על מנת להגביל את כל ה-"טוב" הזה

ישראל לא לבד

קמפייני תודעה שמטרתם להשפיע על תוצאות הבחירות במדינות שונות הם עניין שבעולם מתמודדים אתו בערך עשור. מערכות בחירות רבות במדינות שונות מלוות בהם, כולל שלושת הקמפיינים האחרונים לבית הלבן. בישיבת ועדת המשנה הוצגו כמה דוגמאות לכך, וכיצד המדינות התמודדו עם אתגרים אלה. כך, למשל, בבחירות האחרונות לנשיאות רומניה חלו אירועים יוצאי דופן, שכללו פעילות דיגיטלית מסיבית, שחלקה הופעל בעזרת AI, והיא השפיעה על התוצאות שלהן. זה גרם לכך שבית המשפט החוקתי של רומניה ביטל את סבב הבחירות הראשון, שהתקיים בנובמבר 2024, על רקע חשד להתערבות זרה והטיות דיגיטליות.

דוגמה אחרת מגיעה מבריטניה: שם מנסים להתמודד עם הפייק ניוז שמופץ על ידי בינה מלאכותית עם הקמת מרכז שמטרתו לאמץ בינה מלאכותית למאבק בפייק ניוז.

הרשתות החברתיות לא יטילו רגולציה על עצמן

מסמך שהכין מרכז המחקר והמידע של הכנסת מציע כמה כיוונים כיצד מדינת ישראל יכולה להתמודד עם האתגר הענק הזה. האחד הוא חסימה או הסרה של התכנים על ידי הרשתות החברתיות עצמן. נציגים מהשלוחות הישראליות של פלטפורמות אלה, שהשתתפו בדיון, התאמצו להראות עד כמה הם משתפים פעולה עם הממשלה ועם ועדת הבחירות המרכזית, ועד כמה הם מנהלים איתן שיח שוטף ופורה. זה כנראה נכון, אבל המצב בשטח מראה שהשיח הזה לא מניב תוצאות מספקות.

ח"כ אורית פרקש הכהן, יו"רית ועדת המשנה לבינה מלאכותית של הכנסת. צילום: נועם מושקוביץ, דוברות הכנסת

המסקנה של יו"רית הוועדה, ח"כ אורית פרקש הכהן, מכך היא שלא יהיה מנוס מהשתת סנקציות על חברות אלה – מה שמצריך חקיקה. לפי המסמך של הכנסת, באירופה נוסחה טיוטה לחוק הבינה המלאכותית, שקובע, בין היתר, שמי שמפיץ קמפייני בחירות מבוססי AI חייב לשקף את זה על ידי תיוג מתאים. אלא שח"כ פרקש הכהן, כמו רבים וטובים, מטילה ספק אם הממשלה הנוכחית מעוניינת בכלל להילחם בפייק ניוז ובהשפעות המזיקות של הבינה המלאכותית על מערכת הבחירות – ולא קשה לנחש למה.

האם הפתרון הוא בחינוך?

המסמך של מרכז המחקר והמידע של הכנסת כולל עוד שתי הצעות: האחת היא חינוך לאוריינות דיגיטלית – כזה שיסייע לאוכלוסיות חדשות לזהות פייק ניוז וקמפיינים מבוססי AI, והשנייה קשורה בנו, משתמשי הטכנולוגיה. מטרתה היא לעודד אותנו להיות ערניים, ספקניים ולנסות בעצמנו לצמצם את ההשפעה של כל הפייק והרעל הזה עלינו.

השורה התחתונה: כנראה שאף אחד לא מופתע מכך שישראל לא ערוכה לפייק ניוז, פייק תמונות ופייק סרטונים שצפויים ליפול עלינו יותר ויותר ככל שהבחירות יתקרבו. הציפיות מוועדת הבחירות המרכזית, שאחראית על שמירה על טוהר הבחירות, שהיא תתמודד עם הקמפיינים האלה לבדה אינן ריאליות. במצב הנוכחי, זה גדול עליה. הפתרון הוא בחקיקה עדכנית, שתיתן לה סמכויות וכוח אדם לעשות זאת. את החקיקה צריכים להעביר אותם חברי כנסת, שחלקם בונים את הקמפיינים שלהם על פייק ניוז, הסתה ושנאה. לכן, קשה מאוד לצפות שהם אלה שיפעלו על מנת להגביל את כל ה-"טוב" הזה, שהם (והרשתות החברתיות) היחידים שמרוויחים ממנו.

מי שנותרו, כרגיל, הם אנחנו, האזרחים, צרכני התקשורת והחדשות. ככל שנהיה מודעים יותר לניסיונות ההשפעה הכוזבים ומלאי האינטרסים, וככל שנדע יותר לזהות את התוכן הזה, שבחלקו הגדול קשה מאוד לזהות, כך ייטב – לנו ולמדינה.