תוכן פרסומי
ראשי » חדשות » אבטחת מידע וסייבר » האו"ם ויורופול מזהירים מפני גידול איומי סייבר מבוססי בינה מלאכותית
חדשנות בשירות פושעי הסייבר. בינה מלאכותית. צילום אילוסטרציה: BigStock

האו"ם ויורופול מזהירים מפני גידול איומי סייבר מבוססי בינה מלאכותית

דו"ח חדש של שני הארגונים מזהיר כי ה-AI משמשת כיום יותר ויותר לפעולות זדוניות ברשת, ובמקביל פושעי הסייבר מנסים גם לחבל במערכות בינה מלאכותית קיימות

מאת 23 בנובמבר 2020, 11:15 א+ / א- הדפסה הדפסה
פייסבוק טוויטר ווטסאפ פינטרסט לינקדאין דוא״ל
האו"ם

האו"ם

פושעי סייבר העלו שלב במתקפות שלהם, ועושים שימוש נרחב בניצול לרעה של בינה מלאכותית, כך על פי דו"ח חדש של האו"ם ויורופול.

על פי הדו"ח, שנעשה בשיתוף טרנד מיקרו, בינה מלאכותית תשמש בעתיד גם כווקטור התקפה וגם כמשטח תקיפה. משמעות הניתוח היא שהאקרים מחפשים דרכים להשתמש בכלי AI במהלך המתקפות, כמו גם שיטות באמצעותן ניתן לפרוץ ולחדור, או לחבל – במערכות AI קיימות, כמו אלה המשמשות לזיהוי תמונות, זיהוי קול וזיהוי נוזקות.

הדו"ח מזהיר כי בעוד שכזב עמוק, דיפ-פייק (Deepfake) הוא השימוש הנפוץ הזדוני ביותר ב-AI, עלולים להיות מקרי שימוש רבים אחרים שככל הנראה נמצאים בפיתוח. דיפ-פייק היא טכנולוגיה מבוססת בינה מלאכותית ליצירת סרטוני וידיאו, צילומים או קטעי קול מזויפים. דיפ-פייק מאפשרת ליצור תוכן מזויף, שנראה אמיתי, על ידי שילוב תמונות וסרטונים קיימים על פני תמונות וקטעי וידיאו מקוריים.

השימושים הזדוניים הנוספים בבינה מלאכותית, הזהירו החוקרים, כוללים מערכות למידה ממוחשבת, או מערכות AI – שפותחו במטרה לייצר טכניקות הונאה מבוססות הנדסה חברתית, שיהיו משכנעות ומותאמות אישית – בקנה מידה גדול, או אולי לזהות באופן אוטומטי את המערכות והנתונים בעלי הערך הגבוה ברשת הארגונית אליה חדרו ההאקרים.

נזק מול תועלת בשימוש ב-AI

היורופול

היורופול

מתקפות כופרה הנתמכות על ידי AI עלולות לכלול יכולות מיקוד גדולות יותר בקורבנות, או יכולות חכמות להתחמקות, או הפצה עצמית במהירות גבוהה – או גם וגם – כדי לשבש את תפקוד רשתות הקורבנות, בטרם תהיה להם אפשרות להגיב, נטען בדו"ח. על ידי מציאת נקודות מתות (עיוורות) בשיטות של המגנים לזיהוי התוקפים והתקיפות, אלגוריתמים מסוג זה יכולים גם לסייע לתוקפים להסתתר ולהימנע מפני הגילוי שלהם.

"AI מבטיחה לעולם יעילות, אוטומציה ואוטונומיה גדולים יותר. בתקופה בה הציבור מודאג יותר ויותר מהשימוש הבלתי הולם של AI, עלינו להיות שקופים בנוגע לאיומים, אך גם לבחון את היתרונות האפשריים של טכנולוגיה זו", אמר אמר אדבארדס סילריס, ראש מרכז הפשעים הסייבר של יורופול, "דו"ח זה יעזור לנו, לא רק לחזות בשימושים זדוניים ואפשרויות זדוניות של שימוש ב-AI, אלא גם למנוע ולצמצם את האיומים הללו באופן יזום ופרואקטיבי. כך נוכל לשחרר את פוטנציאל הגלום בבינה המלאכותית, ולהפיק תועלת משימוש חיובי במערכות מבוססות AI".

בסוף הדו"ח החוקרים מציינים תחומים רבים בהם התעשייה וגורמי אכיפת החוק בעולם יכולים לפעול בשיתופי פעולה, כדי להקדים תרופה למכה לקראת הסיכונים שצוינו. אלה כוללים פיתוח של מערכות מבוססות AI ככלי למלחמה בפשע, ודרכים חדשות לבנות חוסן במערכות AI קיימות, כדי למנוע את האיום בשיבוש.

האו"ם ויורופול מזהירים מפני גידול איומי סייבר מבוססי בינה מלאכותית Reviewed by on . [caption id="attachment_326424" align="alignleft" width="300"] האו"ם[/caption] פושעי סייבר העלו שלב במתקפות שלהם, ועושים שימוש נרחב בניצול לרעה של בינה מלאכותית [caption id="attachment_326424" align="alignleft" width="300"] האו"ם[/caption] פושעי סייבר העלו שלב במתקפות שלהם, ועושים שימוש נרחב בניצול לרעה של בינה מלאכותית Rating: 0

הגיבו