"הבינה המלאכותית תביא לגידול משמעותי באיומי הסייבר"

"בשנות ה-90' ובראשית שנות ה-2000 העולם חווה את מהפכת האינטרנט, ב-2007 את מהפכת הטלפון החכם, עם השקת ה-iPhone הראשון, וב-2017 – את מהפכת הענן. אנחנו נמצאים בעיצומה של מהפכת ה-AI – המהפכה החשובה ביותר בעולם ה-IT. יש לה השפעות מפליגות על עולם אבטחת המידע, כי היא מעניקה לתוקפים יכולות מועצמות – באפס מאמץ. ככזו, הבינה המלאכותית תביא לגידול משמעותי בכמות ובאיכות מתקפות הסייבר", כך אמר בועז דולב, מייסד ומנכ"ל קלירסקיי.

דולב דיבר בכנס Infosec24, שהתקיים אתמול (ג') במרכז האירועים והכנסים לאגו בראשון לציון. האירוע, בהפקת אנשים ומחשבים, הוא הוותיק בישראל בתחומו, ונערך זו השנה ה-24. את הכנס הנחה יהודה קונפורטס, העורך הראשי של הקבוצה.

לדברי דולב, "החלום של כל ארגון הוא שהעובדים שלו יהיו מצטיינים – ובלא מאמץ. כל ארגון רוצה שהעובד שלו יכין תוצרים בזמן קצר וללא כאבי ראש. הנהלות הארגונים רוצות את מרב הרווחים במינימום השקעה. הן שואפות להביא לצמצום ההוצאות על ידי חיסכון במשאב ההון האנושי, בהשגת יתרון תחרותי עבור הארגון, בהוספת כלים ויכולות למקבלי ההחלטות, ובקיצור זמנים של הגעת שירותים ומוצרים לשוק".

"העובדים יפסידו בקרב"

הוא העריך כי "העובדים יפסידו בקרב זה. בתוך שלוש-ארבע שנים, 30% מהמתכנתים לא יהיו דרושים בשוק. זה יביא להשפעות על כלל שוק ה-IT, וגם על תחום אבטחת המידע והגנת הסייבר. כל ארגון שלא ייערך לקראת מהפכת הבינה המלאכותית בכלל ואל המשמעויות הנובעות ממנה בעולם ההגנה בפרט ימצא את עצמו מול שוקת שבורה".

דולב הביא כמה דוגמאות לניתוחים ולהפקת תוצרים ודו"חות על בסיס שימוש בכלי AI – למשל השוואה בין דו"חות שנתיים כספיים של שני בנקים, או ניתוח הפעילות של קבוצת האקרים איראנית. "בסופו של דבר", אמר, "הבינה המלאכותית מסייעת למשתמשים בה לקבל תוצאות יפות ולהשיג את המידע בזמן קצר משמעותית".

לדבריו, "על מנת להיכנס באופן הנכון לעולם ה-AI, צריך לדעת כיצד לעשות זאת ואיך לבנות את הארכיטקטורה הנכונה לתחום".

"פיתוח קוד בעזרת כלי AI מניב תוצרים יפים"

"מערכות הבינה המלאכותית היוצרת, ה-GenAI, הגיעו למקומות ולתוצאות יפים", המשיך דולב. "המקום הכי משמעותי הוא העולם של פיתוח קוד בעזרת כלי AI. מנועים אלה הגיעו ליכולת ביצוע של 70% ממה שעושים מתכנתים בני אנוש, והנתון צפוי לגדול. התוצר הוא מדהים, גם אם נדרש לטפל בקוד שפותח על ידי בינה מלאכותית".

הוא ציין ש-"הבינה המלאכותית הביאה להרחבה ולגידול של משטחי התקיפה. מדובר בשלושה מעגלי תקיפה: אלה שנוצרו בשל השימוש של העובדים במערכות בינה מלאכותית; מה קורה בארגון עצמו, כיצד הוא מפעיל יכולות בינה; וכן מה קורה בחוץ – מה עושים המתחרים והתוקפים".

כיצד מתמודדים עם האיומים החדשים? לדברי דולב, "כדי לעשות זאת, קודם כל יש לערוך סקר AI מקיף ולבחון את כלל המשמעויות לארגון – למשל, חשש לדליפת מידע רגיש, בשל חשיפת מידע רגיש של הארגון במהלך הכנת מצגות ודו"חות מנהלים. בנוסף, יש לבחון מהם הסיכונים שנובעים משימוש בכלי AI שמתמחים בתרגום מעברית למגוון שפות. עוד יש לבחון את האיומים הנובעים בשל כתיבה ופיתוח קטעי קוד על ידי מפתחי תוכנה, וכן את הפרומפטים שבהם הם משתמשים". הוא ציין יצירת איום אבטחה חדש: "אם אני עובד בחברת אשראי ושואל שאילתה את אחד מכלי ה-AI – למשל, 'איך הארגון יכול להפוך לבנק?', הדבר עלול לחשוף קניין רוחני סודי על כוונותיו העסקיות של הארגון".

"יש מגוון איומים שנוצרים בשל שימוש פנימי במערכות בינה מלאכותית: פריצה ישירה; פריצה עקיפה – דרך ספקי שירות; שימוש בקוד לא מאובטח שנוצר על ידי AI; שכלול ברמה של האיומים החיצוניים, למשל שיפור משמעותי באיכות הלשונית של השפה שבה נכתב טקסט הפישינג; פיתוח נוזקות בקוד פתוח, שבעבר לקח שנים לפתח אותן בפרק זמן של ימים; ניצול חולשות קלאסיות; ועוד", אמר דולב.

לסיכום הוא ציין ש-"מדובר בתחום שעדיין לא הגענו למלוא ההפנמה של היכולות הטמונות בו, כמו גם האיומים שיבואו איתו".