הבינה המלאכותית – במרכז שניים מהכנסים הבולטים בעולם הסייבר

בחודש אוגוסט, ובקיץ בכלל, אין כנסי ענק טכנולוגיים, למעט כוכבית: שני כנסי אבטחת מידע בעיר ההימורים והחטאים לאס וגאס. השניים הם כנס Black Hat, שכבר מתקיים, וכנס DEF CON, שייפתח ביום ה' הקרוב.

כנסים אלה הם שניים משלושת כנסי אבטחת המידע הגדולים בעולם. השלישי הוא כנס RSA, שהוא הוותיק מביניהם. יש שני הבדלים בינו לבין השניים האחרים: הוא מתקיים במרץ-אפריל, ובסן פרנסיסקו.

כנס RSA הראשון התקיים ב-1991, והוא קרוי על שם החברה שעמדה מאחורי הקמתו – RSA Data Security, שהוקמה על ידי פרופ' עדי שמיר, רון ריבסט ולאונרד אדלמן, ואחד הבכירים בה, בהמשך, היה נפתלי בנט. RSA נמכרה ל-EMC שלאחר איחודה עם דל מכרה אותה לקרן ההון הפרטית STG. פרופ' שמיר, ריבסט ואדלמן המציאו את אלגוריתם ההצפנה RSA. הכנס התמקד בקריפטוגרפיה, אך הכול השתנה ב-2005, כשביל גייטס, אז מנכ"ל מיקרוסופט, נשא בו הרצאת מפתח. ההרצאה עסקה ביוזמת "המחשוב האמין" שלו, והעבירה מסר לתעשייה כולה שלפיו אבטת מידע היא תנאי יסוד להמשך צמיחת עולם הטכנולוגיה. בתעשייה הבינו את המסר, ו-RSA הפך לכנס אבטחת המידע הגדול בעולם.

שני הכנסים האחרים – כאמור, DEF CON ו-Black Hat- נוסדו שש שנים אחרי RSA, ביולי 1997. בחלוף השנים, שלושתם היו לאבן דרך בהגנת הסייבר העולמית, שאז נקראה "אבטחת מידע". יש בהם מאפיין ייחודי, שאין בכנסים אחרים: הם מפגישים פושעי סייבר והאקרים לסוגיהם, טובים ורעים, עם בכירים מכל סוכנויות הממשל הפדרלי הרלוונטיות – ה-NSA, ה-FBI, וכן CISA ו-CIA, לצד נציגים ממגזרי הביטחון והאבטחה.

מה על סדר היום?

השנה, כצפוי, יעמדו במרכז כנסי DEF CON ו-Black Hat הבינה המלאכותית לסוגיה, ובתוכה ה-AI סוכנית, ומניעת מצב של סוכנים סוררים, שעושים כל שעולה על רוחם, כמו שכבר ראינו עם הסוכנים של OpenAI ואנת'רופיק.

הנה כמה מהנושאים שיהיו בראש סדר היום של משתתפי הכנסים – שישפיעו על כל מקצוען ומקצוענית בתחום:

לוגו כנס DEF CON

הנושא הראשון, שבשל אירועי החודשים האחרונים ימשיך להיות חם, הוא ניצול המסגרת של בינה מלאכותית סוכנית. כאשר ארגונים פורסים סוכני AI אוטונומיים עם גישה ל-API לבסיסי נתונים וליישומים ארגוניים – גם היריבים יודעים זאת. הם יעשו הכול כדי לשבש את לוגיקת הסוכנים, להשחית נתונים בסיסיים או לאפשר לסוכנים תנועה רוחבית בארגון הקורבן. התוקפים יאתרו וקטורי איום ישימים, פגיעויות וכל התנהגות חריגה שתסייע להם.

עוד במוקד הכנסים: תשתיות APT מתקדמות ומודיעין איומים. תשתיות APT מודרניות כוללות יכולת איתור וחדירה דרך פרצות למכשירי קצה, שרתי פיקוד ושליטה (C2), חטיפת זהויות, השתלטות על תרחישים ותהליכים בארגון, ותיאום בין שחקני איום שונים, פליליים ומדינתיים. בשל השינויים הללו, מומחי האבטחה חייבים לחזק את ניתוח תעבורת הרשת, להכיר את התשתיות והכלים של היריבים, ולהפוך את מדדי האיומים לכללי זיהוי אוטומטיים ותצורות של בקרת אבטחה.

נושא חשוב נוסף הוא גילוי אוטומטי של פגיעויות וניצול מבוסס AI. העידן החדש מתאפיין במגמה מדאיגה: כמעט שאין זמן בין גילוי פגיעויות לבין הפיכתן לנשק סייבר. בשל כך, סריקות תקופתיות, חלונות תיקונים ודירוג מידת החומרה (CVSS) הפכו למיושנים. המשמעות: ארגונים חייבים לעבור למערכי הגנה מבוססי AI, שמנצלים סוכני תיקון קוד אוטומטיים, מתאימים את הארגון לדירוגי הסיכונים העסקיים, פורסים תיקונים וירטואליים בזמן אמת ומגנים באופן עצמאי על יישומים בזמן ריצה (RASP).

לוגו כנס Black Hat

גם ציד האיומים השתנה בעידן הבינה המלאכותית: חלפו עברו להם הימים של הסתמכות על אינדיקטורים סטטיים של פריצה, כגון כתובות IP וגיבוב קבצים. במקום זאת, על המגינים ללמוד לפעול על ידי יישום זיהוי אנומליות רציף, הגדרת חומות הגנה ("מעקות", גדרות) דטרמיניסטיות ושימוש בכלים אוטומטיים להפעלת מודיעין איומים במהירות. זאת, לצד שילוב בין אוטומציה של בינה מלאכותית, ניסיון אנושי וידע בהקשר עסקי ובהגנות סייבר.

ו-"הפתעה" – גם הנושא האחרון קשור לשימוש בבינה מלאכותית: ניצול ה-AI על ידי האויבים. מעבר להיקף ולמהירות, הם מנצלים את יכולות הבינה המלאכותית למגוון פעולות זדוניות: הפעלת קמפיינים בהיקף נרחב, ביצוע מתקפות המוניות, לצד מתקפות ממוקדות אישית באנשים ובארגונים, הזרקת נוזקות, סיורים ברשת הקורבן בסתר, סינון קודים תפעוליים, ניתוח מסמכים רגישים, יצירת ישויות וירטואליות "אמיתיות" ויצירת סקריפטים אוטומטיים למחיקת ראיות לפעילות שלהם. המשמעות מבחינת המגינים היא שהם חייבים להסתמך על זיהוי אנומליה התנהגותית, לבדוק מה עם סוכני בינה מלאכותית שפועלים באופן שיתופי והאם יש תהליכי וזרימות עבודה שעברו הינדוס. מומחי הסייבר נדרשים להבין היטב את ההתקדמות של שרשרת ההשמדה מבוססת הבינה המלאכותית ואת אמצעי הנגד הסוכניים המתאימים.

נראה שהמסר המרכזי של שני הכנסים הללו נמצא בדבריו של מומחה סייבר: "ה-AI משנה במהירות יישומים, IT, הגנות אבטחה וטקטיקות עסקיות. ראש פתוח וכובע שחור יכולים לעזור למגינים.ות".