"המערכה בדיגיטל הפכה למעבדה חיה של תעמולה מבוססת AI"

"המלחמות של המאה ה-21 אינן מתנהלות עוד רק בשדות הקרב הפיזיים. הן מתנהלות במקביל גם בזירת המידע, ברשתות החברתיות, בפלטפורמות כמו טיקטוק (TikTok), טלגרם (Telegram) ואינסטגרם (Instagram) ובתקשורת הבינלאומית. זהו שדה קרב חדש: תודעתי, דיגיטלי וגלובלי. בעידן הבינה המלאכותית הזירה הזו משתנה במהירות חסרת תקדים. מאז ה-7 באוקטובר 2023, ובעיקר בעימותים האחרונים בין ישראל לאיראן, שדה הקרב הדיגיטלי הפך למעבדה חיה של תעמולה מבוססת בינה מלאכותית", כך אמר ד"ר אסף שפיינר, ראש התוכנית לתואר שני בפקולטה להנדסת תוכנה, המכללה האקדמית להנדסה עזריאלי ירושלים.

בראיון לאנשים ומחשבים אמר ד"ר שפיינר כי "עידן הבינה המלאכותית מעניק טכנולוגיות שמאפשרות יצירה אוטומטית של טקסטים, תמונות, סרטונים וקולות. כך, הפצת המידע הופכת לפעולה מהירה, זולה ונגישה לכל גורם – מדינות, ארגונים ואפילו יחידים. התוצאה היא מאבק מתמיד על עיצוב המציאות כפי שהיא נתפשת בעיני הציבור".

לדבריו, "עם AI, בתוך זמן קצר ניתן להציף את הרשת בעשרות אלפי חשבונות. כך למשל, נחשפו קמפיינים מבוססי דיפ-פייק שהגיעו לעשרות ומאות מיליוני צפיות, שהמשתמשים נחשפים שוב ושוב לאותו מסר. גם אם המסר נוצר באופן מלאכותי, נוצרת תחושה של קונצנזוס ציבורי, למרות שמדובר בפעילות מתוזמנת היטב".

"ייצור המוני של תודעה"

"אחד השינויים המרכזיים בעידן ה-AI", ציין ד"ר שפיינר, "הוא ביכולת לייצר מידע בקנה מידה עצום ובמהירות גבוהה. מערכות AI מסוגלות לכתוב אלפי פוסטים, תגובות ומאמרים בתוך זמן קצר, תוך התאמה לקהלי יעד שונים ובשפות שונות. רשתות של חשבונות אוטומטיים או חצי-אוטומטיים פועלות באופן מתוזמן, מפיצות מסרים אחידים ומעצבות שיח ציבורי. כאשר אלפי פרופילים לכאורה מביעים עמדה דומה, קשה להבחין שמדובר במבצע מתוזמן ולא בדעת קהל אותנטית. האלגוריתמים של הרשתות החברתיות מעצימים את התופעה, כי תוכן שמעורר רגש חזק זוכה לחשיפה רחבה יותר, גם כשהוא שגוי או מטעה".

"מאחורי הקלעים נעשה שימוש גם במודלים של שפה לכתיבת מאמרים לאתרי חדשות מזויפים, ליצירת פרופילים פיקטיביים שנדמים לאנשים אמיתיים ולהפעלת קמפיינים גלובליים, המכוונים להשפיע על דעת קהל במדינות אחרות", הוסיף ד"ר שפיינר, "לעתים, קריסת תשתיות אינטרנט במדינה אחת הובילה להיעלמות פתאומית של אלפי חשבונות. זו עדות לפעילות מתוזמנת ומרוכזת".

תמונות שמיליונים ראו – ואיש לא צילם

שותפה מיליוני פעמים על אף שהיא תוצר AI. תמונת מחנה אוהלים לבנים ברקע הרים מושלגים עם הכיתוב 'All Eyes on Rafah'. צילום: לכידת מסך מהרשת, שימוש לפי סעיף 27א לחוק זכות יוצרים

"המהפכה הדרמטית ביותר מתרחשת בעולם החזותי", הוסיף ואמר ד"ר שפיינר. "בעבר, יצירת זיוף משכנע דרשה יכולות גרפיות מתקדמות וזמן רב. כיום, ניתן לייצר דימויים ריאליסטיים בתוך דקות. כך, תמונה ויראלית של מחנה אוהלים לבנים ברקע הרים מושלגים עם הכיתוב 'All Eyes on Rafah' שותפה עשרות מיליוני פעמים, למרות שנוצרה ב-AI. בתגובה הופצה תמונה נגדית, גם היא מבוססת AI, שזכתה למיליוני שיתופים. שני הצדדים הפכו ליצרני תוכן סינתטי בהיקף תעשייתי. גם סרטונים אינם חסינים והם 'זוכים' לטיפול AI. במקרים אחרים הופצו סרטונים ממשחקי מחשב, כאילו היו תיעוד אמיתי של תקיפות צבאיות. הקושי להבחין בין אמת לזיוף גדל ככל שהתוכן נראה אמין יותר ומופץ מהר יותר".

"מלחמת ה-AI הראשונה"

"העימותים האחרונים ממחישים עד כמה הבינה המלאכותית הפכה לכלי מרכזי בלוחמה תודעתית, עד שחוקרים מכנים אותם ב'מלחמת ה-AI הראשונה'. סרטוני פגיעות שלא התרחשו ותיעוד שקרי של מטוסים שהופלו – כולם הופצו כחלק ממאמץ לעיצוב הנרטיב, כאשר עבור מרבית הצופים התוכן נראה אמין לחלוטין. עוד היו גם שידורים רשמיים שכללו תכנים שהתבררו כמזויפים. כך, שימוש בפרסונות דיגיטליות ובקמפיינים מתוזמנים הפך לחלק מהמאבק על דעת הקהל הבינלאומית".

"תעמולה ומלחמה פסיכולוגית אינן תופעות חדשות, אך הבינה המלאכותית משנה אותן מן היסוד באמצעות שילוב של היקף עצום, מהירות הפצה גבוהה ואמינות לכאורה", סיכם ד"ר שפיינר.

"אנו מתקרבים למציאות שבה בני אדם לא יוכלו להבחין בין מדיה אותנטית למפוברקת – בלא סיוע טכנולוגי. ההתמודדות עם המציאות הזו מחייבת שילוב בין פיתוח טכנולוגיות לזיהוי וסימון תוכן, מהלכים רגולטוריים שיחייבו שקיפות, וחיזוק האוריינות הדיגיטלית של הציבור. הבינה המלאכותית הפכה לגורם שמשנה את האופן שבו אנו תופשים אמת, מידע ואמון. האתגר המרכזי אינו רק לנצח בקרב על התודעה, אלא לשמור על היכולת להבחין בין מה שקרה באמת לבין מה שמישהו רצה שנחשוב שקרה".