"המעבר ל-AI – כמו ממכונת כתיבה למחשב"

"הסתמכות יתר על בינה מלאכותית היא אחד הסיכונים המרכזיים. בעבר היינו מסיקים מסקנות בעצמנו, היום – AI חוסכת זמן. אבל הרבה מהמאמץ שלנו מושקע בלהבין איפה היא חזקה ואיפה היא חלשה. AI מהווה עמוד תווך טכנולוגי חדש, אבל היא גם מעניקה תחושה שקל יותר להיכנס למחקר, כשבפועל, היא יוצרת פער בין רמת כניסה לרמת מומחיות. הבינה המלאכותית ממלאת את היכולות של בעלי ניסיון בסיסי בתחומים רבים, אבל בשאלות עמוקות וממוקדות – היא נכשלת מהר ובמקרים רבים. המעבר ל-AI נדמה כמו זה ממכונת כתיבה למחשב. זהו כלי חזק, חוסך זמן, אבל דורש הבנה של היתרונות וגם של הסיכונים שנוצרים, כמו תלות, או אובדן מידע", כך אמר ולדימיר קרופוטוב, חוקר ראשי בצוות מחקר האיומים של TrendAI, החטיבה העסקית של טרנד מיקרו (Trend Micro).

בראיון בלעדי לאנשים ומחשבים הוסיף ואמר קרופוטוב כי "בעבר השקענו מאמץ בלמצוא מידע. היום יש הרבה יותר מידע, זה שנוצר על ידי AI וגם על ידי בני אדם. אתרים רבים מייצרים תוכן, וצריך להבין מה נוצר על ידי מי. האתגר היום כפול: לא לטבוע בהררי המידע, וגם להבין את איכות הנתונים ואת מקורם. היום קל למצוא מידע – אבל קשה להבין מה באמת שימושי".

"הבינה המלאכותית שינתה ותשנה עולמות תוכן רבים ועלינו להיערך לכך", אמר קרופוטוב, "לטעמי, צריך קודם לחשוב לבד, ורק אחר כך לשפר עם AI. היא חוללה שני שינויים מרכזיים. הראשון: AI היא כלי, לא פתרון. יש להבין מתי להשתמש בה, לאילו משימות ובאיזו איכות. לדוגמה, ערכנו מחקר על הטיות ב-AI וניהול סיכוני בינה מלאכותית. בדקנו כ-100 מודלים במקרי קצה, כדי להבין איזה מודל עובד טוב לאילו משימות ומי נכשל מהר. מאוד חשוב להעריך את איכות התוצרים של ה-AI. אנחנו מיישמים את הפרקטיקה אצלנו בצוות: קודם נערוך סיעור מוחות אנושי, נזרוק רעיונות לחלל האוויר, ורק אחר כך נשתמש ב-AI להעשרת המידע. אם מתחילים עם AI, התוצאה נראית מסודרת וטובה, אבל המוח מפסיק לחשוב ומתקבלת התוצאה כפי שהיא, בלא תרומה אנושית. התוצרים הראשונים חייבים להגיע מהמוח האנושי – תובנות, כיוונים ונתונים. בסופו של יום, לאחר שעשינו כמה סבבי סיעור מוחות מתועדים, נקבל 80-90% מהתובנות, וה-AI תוסיף את השאר. לפעמים זה יהיה רעיון מצוין, לפעמים – תוצר כללי".

"מתמטיקה, פיזיקה וחשיבה ביקורתית – לא מתיישנות"

"AI משנה את רמת המומחיות בהגנת הסייבר ואבטחת מידע", הסביר קרופוטוב. "מדובר בתהליך אבולוציוני. אני בר מזל – יש לי תואר שני באבטחת מידע מתחילת שנות ה-2000, כשהתחום נקרא Information Security. ההשכלה שלנו הייתה רחבה יותר, וזה יתרון – לא התמחות צרה, אלא חשיבה נכונה. למדנו פיזיקה, קריפטוגרפיה, מערכות רדיו וקיבלנו בסיס מתמטי חזק. בקצב השינויים כיום, אין טעם לדעת הכל. מה שחשוב הוא דרך החשיבה והיכולת ללמוד מהר. AI מאפשרת לי להבין דברים הרבה יותר מהר".

"ערכנו מחקר", סיפר קרופוטוב, "על מניפולציות דעת קהל ופייק ניוז. אחד הממצאים היה שלפני 1940, קצב השינויים הטכנולוגיים היה איטי יותר מקצב הדורות. היום המצב הפוך, חל שינוי משמעותי כל שנה-שנתיים. דור אחד חווה עשרות שינויים. לכן, תחומים כמו מתמטיקה, פיזיקה וחשיבה ביקורתית – לא מתיישנות; שפות תכנות וטכנולוגיות – משתנות מהר; והעקרונות הבסיסיים, כמו רשתות או TCP/IP – עדיין רלוונטיים".

לדבריו, "אנחנו עכשיו בשלב שבו AI נתפשת כפתרון להכל – והיא גם קצת מוערכת יתר על המידה. עסקים מתחילים לשלב בינה מלאכותית בתהליכים, מה שמגדיל את הפרודוקטיביות, אבל גם מפחית שליטה ובקרה. אנחנו מכניסים AI לתהליכים קריטיים, ועושים זאת בלא הערכת סיכונים מספקת – ואז משלמים פי 3 או פי 10 כשמשהו משתבש. AI מחליפה משימות בסיסיות, אבל דורשת יותר מומחיות כדי לבנות, לבדוק ולהעריך תהליכים. חשוב לשמור על יכולת להפעיל תהליכים גם בלעדיה, במקרה תקלה או השבתה. ובנוסף, חייבים מנגנוני גיבוי".

"לא רק סייבר קלאסי, אלא גם סיכונים טכנולוגיים"

"צוות מחקר האיומים בחברה", הסביר, "שונה מהצוותים שבחברות סייבר אחרות. משך שנים עסקנו גם במחקר טכנולוגי – לא רק בסייבר קלאסי, אלא גם בסיכונים טכנולוגיים. אנחנו מתייחסים לטכנולוגיות חדשות כאל עמודי תווך טכנולוגיים, שיש בהם סיכון". הוא המשיך והסביר כי "כך עשינו הרבה מחקרים שהם קצת מחוץ לגישה הקלאסית של סייבר, שמתמקדת בתקיפות על מחשבים או טלפונים".

"AI מגדילה פרודוקטיביות, אבל גם מצמצמת פיקוח", סיכם קרופוטוב, "ארגונים משלבים אותה בתהליכים קריטיים בלא הערכת סיכונים מספקת – וזה עלול לעלות ביוקר בהמשך. בינה מלאכותית יכולה להחליף חוקרים במשימות בסיסיות, אבל לא בשיקול דעת של מומחה. היום AI היא הכרחית. צריך להשתמש בה, אבל להבין איך להשתמש בה נכון. בשורה התחתונה, AI משנה את כללי המשחק, אבל מי שמבין את המגבלות שלה, שומר על חשיבה ביקורתית ומבסס ידע על יסודות חזקים – יהיה זה שמוביל את התחום".