החל מהיום באיחוד האירופי – חובה לסמן כל תוכן AI שנראה אמיתי

האיחוד האירופי מחייב חברות לסמן תוכן שנוצר באמצעות בינה מלאכותית שנועד להיראות אמיתי ואותנטי. הכללים החדשים, שנקבעו במסגרת חוק הבינה המלאכותית (AI Act) של האיחוד, נכנסו לתוקף היום, ה-2 באוגוסט.

החובה חלה על תמונות, קטעי שמע וטקסטים שנוצרו באמצעות AI ומטרתם היא ליצור רושם של תוכן רתנטי וריאלי. תוכן כזה יחויב לשאת סימן מים דיגיטלי (Digital Watermark), שיגדיר אותו כתוצר של בינה מלאכותית.

עם זאת, התקנות אינן חלות על תוכן אישי, כך שבדיחות פרטיות בקבוצות צ'אט או יצירות לשימוש אישי אינן מחויבות בסימון. בנוסף, קיימת החרגה ליצירות סאטיריות, בדיוניות או אמנותיות שבמובהק אינן מתיימרות להציג מציאות.

מועד היעד של 2 באוגוסט חל על מערכות AI חדשות שיושקו בשוק האירופי. מערכות שכבר היו פעילות לפני כניסת הכללים יקבלו ארכה של ארבעה חודשים נוספים כדי לעמוד בדרישות.

"חובת הסימון אינה רק עניין של הגנה על הצרכנים – היא גם עניין של הגנה על הדמוקרטיה", אמר חבר הפרלמנט האירופי סרגיי לגודינסקי, שהיה שותף לגיבוש חוק הבינה המלאכותית. לדבריו, "זהו מידע שעלינו לשמר כדי להגן על הדמוקרטיה ועל האותנטיות של העובדות ברשת."

אי-עמידה בדרישות עלולה לגרור קנסות כבדים של עד 3% ממחזור ההכנסות הגלובליות של החברה המפירה. האיחוד האירופי אף פרסם תוויות רשמיות בשחור-לבן שכל ארגון יכול להשתמש בהן, אך החברות רשאיות גם לעצב תוויות משלהן כל עוד הן עומדות בדרישות.

לגברי מומחים, רוב התוכן שנוצר באמצעות AI ברשתות החברתיות כבר מסומן כיום, אולם הציבור עשוי לגלות את התוויות גם "בתחומים שבהם נעשה שימוש נרחב בבינה מלאכותית מבלי שאנשים מודעים לכך – כמו פרסום, תעשיית הקולנוע וההוצאה לאור".

ואכן, רוב הרשתות החברתיות הגדולות כבר מחזיקות במדיניות המחייבת סימון של תמונות ריאליסטיות שנוצרו באמצעות AI, אך בפועל המנגנונים אינם מושלמים. בטיקטוק, למשל, היוצרים נדרשים לסמן תוכן שנוצר באמצעות בינה מלאכותית, אולם בפועל לא מעט תכנים מצליחים לחמוק מהפיקוח. אחת התופעות האחרונות היא סרטונים קצרים המציגים "רופאים" שנוצרו באמצעות AI, שמעניקים עצות בריאות מפוקפקות.

גם גוגל מפעילה את מערכת SynthID, שלדבריה כבר שימשה לסימון של יותר מ-100 מיליארד תמונות וכמות עצומה של קטעי קול – בהיקף מצטבר השווה לכ-60 אלף שנות שמע. מטא מצידה מפעילה מנגנונים, שמסייעים למשתמשים לזהות תמונות ריאליסטיות, שנוצרו באמצעות AI, כולל מגוון תוויות וסימונים ייעודיים.