"אם הציבור יסתמך רק על מידע מ-AI – האינטרנט יקרוס לתוך עצמו"

"ה-AI עלולה להפוך את האינטרנט למכונת הזנה עצמית של מידע שגוי. אם הציבור ימשיך להסתמך רק על מידע שנוצר ב-AI, הדבר הזה יקרוס לתוך עצמו, מכיוון שבסופו של דבר הוא יזין את עצמו, ואז נקבל דברים מאוד מאוד הזויים", כך אומר עו"ד יורם הכהן, מנכ"ל איגוד האינטרנט הישראלי, בראיון לפודקאסט אנשים ומחשבים, בו הוא מתייחס למצב האינטרנט בישראל לקראת השנה החדשה.

בראיון מביע הכהן דאגה מהפער ההולך וגדל בין יכולות התקיפה של מערכות בינה מלאכותית לבין יכולות ההגנה מפניהן. הוא מתריע גם מפני היעדר חקיקה משמעותית בתחום ה-AI בישראל, ומביע תקווה כי ועדת הבחירות המרכזית תוכל לאכוף את הסעיף החדש המחייב מפלגות לתייג קמפיינים שנעשו בעזרת בינה מלאכותית.

הכהן מכהן כמנכ"ל איגוד האינטרנט הישראלי מאז 2013. קודם לכן עמד בראש הרשות למשפט, טכנולוגיה ומידע. את החשיפה לעולם הטכנולוגיה החל בשירותו הצבאי במודיעין חיל האוויר. הוא בעל השכלה במתמטיקה ובמשפטים, ומשנת 1987 עוסק בממשק שבין משפט לטכנולוגיה. בין היתר היה ממקימי אתר תקדין והיה מעורב, לדבריו, גם בתחום החתימה האלקטרונית.

מהו איגוד האינטרנט כיום, לאחר שלא מזמן ציינתם 30 שנה להקמתו?
"איגוד האינטרנט הוא עמותה שלמעשה הכניסה את האינטרנט לשימוש בישראל. המייסדים של העמותה היו אנשים שפעלו בגוף שנקרא מחב"א – מרכז החישובים הבין-אוניברסיטאי.

כיום אנחנו אחראים על שתי בפעולות חשובות: ניהול מרחב שמות המתחם, הדומיינים, ומחלף האינטרנט הישראלי. בשנת 2014 המדינה הכירה בנו כתשתית קריטית, וב-2018 נכנסנו באופן רשמי לחוק הסדרת הביטחון בגופים ציבוריים. מאז אנחנו מונחים על ידי מערך הסייבר הלאומי".

מה עומד כיום על סדר היום בפעילות שלכם באיגוד?
"האתגר הגדול הוא הסייבר שמגיע מתחום הבינה המלאכותית. אבל מעבר לזה, אנחנו עוסקים בכל הנושאים שנובעים מההכרה, שהייתה כבר מהיום הראשון להקמת האיגוד, שלפיה לאינטרנט יש השפעה דרמטית על כל החיים שלנו – על הצדדים החיוביים וגם על השליליים.

יש לנו קווי סיוע לגולשים, אנחנו כותבים מסמכי מדיניות על האופן שבו האינטרנט צריך להתפתח, והמסמכים האלה משמשים את מקבלי ההחלטות – גם בצד של המחוקקים וגם במובן הטכנולוגי".

איך אתם מסייעים לנפגעי רשת בעידן של פייק ניוז?
"אנחנו מוגדרים על ידי הפלטפורמות הגדולות כ'מדווח נאמן' – Trusted Flagger. לכן דיווחים שאנחנו מעבירים אליהן, בעקבות פניות של גולשים, מקבלים יחס אחר מאשר פנייה של גולש רגיל. זה חלק מפעילות רחבה שלנו שעוסקת בזכויות אזרח באינטרנט. מדובר, בין היתר, בזכות לשוויון, כולל בחברה הערבית והחרדית, באוכלוסיית הגיל השלישי, בצעירים ובקטינים ועוד".

איזה סוג של תלונות מגיע אליכם, ואיך אתם פועלים?
"אנחנו מקבלים תלונות על פגיעות מיניות, דיסאינפורמציה, פייק ניוז ועוד. כשאנחנו מזהים שהתלונה היא חלק מתופעה מסוימת, אנחנו מעבירים אותה הלאה ומנסים לפתור את הבעיה ברמה הפרטנית.

אבל את הבעיה הגדולה – עצם התופעות האלה שקיימות בכל מרחבי הרשת – אנחנו בוודאי לא יכולים לפתור לבד. אלה בעיות גלובליות, שקשורות גם למדינה ולחקיקה".

האם החקיקה בתחום האינטרנט בישראל עדיין אינה מתקדמת מספיק?
"לצערי, הכנסת לא מבינה את תפקידה להגן על הציבור במרחב הדיגיטלי. לדוגמה, הצגתי את תיקון 13 לחוק הגנת הפרטיות בפעם הראשונה ביוני 2012. לקח למדינה 13 שנים לחוקק את החוק שעבר.

כיום גם אין הסדרה של הרשתות החברתיות, שזה הנושא המרכזי היום. המצב הזה לא מאפשר למדינה להעמיד לדין את ראשי הפלטפורמות כמו שעושים באירופה, בעקבות עבירות שנעשות בפלטפורמות שלהן.

אבל חשוב מאוד שהציבור ידע שאפשר ורצוי לפנות אלינו. דרך האתר Safe.org.il – יש הפניה לאתר האיגוד, שם ניתן למלא טופס ואנחנו מנסים לסייע, כאמור, ברמה הפרטנית".

בכמה פניות אתם מטפלים בשנה?
"אנחנו מטפלים בסדר גודל של 4,000-5,000 פניות בשנה. לצערנו, רמת ההיענות אינה גבוהה, אבל יש לא מעט מקרים שבהם אנחנו מצליחים לסייע, בתוקף מעמדנו. אנחנו גם לומדים מכל פנייה. אנחנו בודקים אם המקרה אינו חלק מתופעה רחבה יותר, כי יכול להיות שיש אנשים נוספים שנפגעו ולא פנו אלינו".

עד כמה אתם מודאגים מהשפעות ה-AI והדיסאינפורמציה על מערכת הבחירות שמתנהלת כיום?
"קודם כל, בתור מי שמנהל תשתית קריטית, אחד הדברים שמדאיגים אותי הוא הפער שנוצר כיום בין יכולות ההתקפה של מערכות AI לבין יכולות ההגנה. זה פער מאוד מסוכן, וייקח זמן עד שמערכות ה-AI להגנה יהיו יותר אפקטיביות. גם מערך הסייבר הלאומי מעורב בזה.

ועדת הבחירות גם הוסיפה סעיף לחקיקה, שמחייב כיום את המפלגות לסמן תכנים שנעשו באמצעות AI. אני מקווה שהוועדה אכן תוכל להתמודד עם התופעות של פייק ניוז בבחירות. אבל עדיין, החקיקה בנושא AI מאוד רזה בישראל".

להאזנה לפודקאסט | לצפייה בווידאו ב-YouTube