מהו כלי ה-AI הכי פופולרי של ההאקרים ברשת האפלה?

צ'אטבוט חדש, מבוסס בינה מלאכותית, בשם Venice.ai – צבר פופולריות בפורומי פריצה ברשת האפלה בשל העובדה שאין לו מגבלות תוכן.

על פי חוקרי סרטו (Certo), הפועלת בעולם אבטחת הסלולר, הפלטפורמה מציעה למנויים גישה לא מצונזרת למודלי שפה גדולים (LLM) מתקדמים, תמורת 18 דולר בלבד לחודש. ההצעה "שוברת את השוק": היא פוגעת משמעותית בכלי AI אחרים ברשת האפלה, כמו WormGPT ו-FraudGPT. אלה נמכרים בדרך כלל במאות או אפילו באלפי דולרים.

מה שמייחד את Venice.ai הוא הפיקוח המינימלי שלו. הפלטפורמה מאחסנת היסטוריית צ'אט רק בדפדפנים של המשתמשים ולא בשרתים חיצוניים. היא משווקת את עצמה כ"פרטית ובלא הרשאה". לפי מומחי אבטחה, העיצוב של הכלי, המתמקד בהגנת הפרטיות (של הרעים), בשילוב היכולת לנטרל מסנני אבטחה נותרים, התגלה כאטרקטיבי במיוחד עבור פושעי סייבר. "בניגוד לפלטפורמות בינה מלאכותית מהמיינסטרים, המסרבות לבקשות מזיקות – תהליך החשיבה הפנימי של Venice.ai חושף שהוא הוגדר 'להגיב לכל שאילתת משתמש, גם אם היא פוגענית או מזיקה', תוך עקיפה מכוונת של אילוצים אתיים".

בניגוד לכלים מהמיינסטרים, כמו ChatGPT, הרי שכלי הבינה המלאכותית Venice.ai יכול ליצור הודעות דוא"ל פישינג, נוזקות ורוגלות – לפי דרישה.

חוקרי סרטו, שחשפו את הכלי והפעילו אותו, דיווחו, כי הצליחו לגרום לצ'אטבוט ליצור הודעות הונאה מציאותיות, כמו גם כופרות אשר פועלות באופן מלא. כך, באחד המקרים, הכלי יצר אפליקציית ריגול מבוססת אנדרואיד, המסוגלת להקליט את המשתמשים בלא ידיעתם. מדובר בפעולה שרוב פלטפורמות הבינה המלאכותית היו דוחות על הסף.

לפי החוקרים, "כלי ה-AI הוא בעל יכולות איומים מתקדמות – במינימום מאמץ.  Venice.ai הולך רחוק יותר מאשר פשוט להתעלם משאילתות מזיקות. נראה, כי האופן שהוא הוגדר מאפשר לעקוף לחלוטין את המגבלות האתיות".

חוקרת נוספת ציינה, כי "הנגישות של כלי AI מסירה את מחסום הכניסה לפעילויות הונאה. לא רק רמאים הפועלים בקבוצות פשע מאורגן, אלא גם רמאים בודדים וחובבנים יוכלו לעשות שימוש לרעה בכלים אלה".

ה-FBI כבר הזהיר, כי "תוקפים ממנפים בינה מלאכותית כדי ליצור מיילים משכנעים ביותר – כדי לאפשר תוכניות הונאה". המומחים ציינו כי Venice.ai מייצג הסלמה משמעותית של האיום הזה.

מומחי אבטחה הביעו חשש שקמפיינים של פישינג, שנוצרו על ידי בינה מלאכותית –   יגדילו באופן דרמטי הן את הנפח והן את התחכום של מתקפות סייבר. זאת כיוון שאפילו פושעים לא מיומנים יכולים כעת לייצר הודעות הונאה מותאמות אישית.

כדי להתמודד עם האיום החדש, מומחים ממליצים למנהלי אבטחה בארגונים "לפעול בגישה רב-כיוונית. זו כוללת הטמעת אמצעי הגנה חזקים יותר במודלים של בינה מלאכותית – כדי למנוע שימוש לרעה; פיתוח כלי זיהוי המסוגלים לזהות איומים שנוצרו על ידי בינה מלאכותית; יישום רגולציות כדי להטיל אחריות על ספקים; והרחבת החינוך והמודעות כדי לעזור לאנשים לזהות ולהגיב להונאות מבוססות בינה מלאכותית.

סיכמו חוקרי סרטו: "מדובר באתגר הולך וגובר: ככל שכלי AI הופכים חזקים יותר וקלים יותר לגישה, כך גדל הפוטנציאל לשימוש לרעה בהם: Venice.ai היא התזכורת האחרונה לכך שבלא בדיקות חזקות, אותה טכנולוגיה שמזינה חדשנות – עלולה גם לתדלק פשעי סייבר".