בנקים פורסים צבא של בוטי-AI כדי לרמות רמאים

בנקים גדולים באוסטרליה עושים שימוש בבוטים מבוססי בינה מלאכותית, כדי לרמות רמאים. הבוטים נועדו להתחזות לקורבנות פוטנציאליים, לחלץ מודיעין בזמן אמת ולבזבז את משאבי הרמאים. לאחר שמבצעי ההונאות נחשפים, הנתונים שלהם מוזנים למערכות זיהוי הונאות, המשמשות בנקים, ספקיות טלקום וסוכנויות ממשל.

על מבצעי ההונאה אחראית חברה אוסטרלית צעירה, בשם אפאטה (Apate.AI). היא הוקמה בשנה שעברה, ועל לקוחותיה נמנים משרדי ממשלה, סוכנויות אכיפת חוק, מיקרוסופט (Microsoft), אנבידיה (Nvidia), ובנק הענק האוסטרלי קומנוולת' (Commonwealth).

החברה פיתחה פלטפורמה למניעת הונאות ושיבושים, המופעלת על ידי בינה מלאכותית. הבוטים, מבוססי AI גם כן, משוחחים עם הרמאים, מעסיקים אותם, משבשים את פעילותם ואוספים עליהם מודיעין בזמן אמת. כך, הפלטפורמה מסיטה את הרמאים מהקורבנות האמתיים, חושפת את טקטיקות הפעולה שלהם, את וקטורי התקיפה ומפיקה מהמודיעין הגולמי תובנות לפעולה.

טקטיקות הבוטים וההשפעה על הרמאים

החברה השיקה בוטים בפלטפורמות קוליות, כדי להתחזות למשתמשי טלפון טיפוסיים, כמו גם פלטפורמות להודעות טקסט ומדיה חברתית. כך, הבוטים מחלצים כל מיני פרטי מידע שהופכים למודיעין על הרמאים: ארנקי קריפטו שהם משתמשים בהם, טקטיקות ההונאה, דרכי הזרימה של הכסף הגנוב מההונאה, זיהויים של חשבונות מפוקפקים, מכשירים פיננסיים, ארגונים מתחזים ועוד.

הבוטים מתפתחים תוך כדי עבודה, כאשר הרמאים משנים את הטקטיקות שלהם. שכבת תיאום, מרובת סוכנים, עוזרת לבוטים ללמוד מכל אינטראקציה ולשנות את התנהגותם בזמן אמת.

עם יותר מ-88,000 בוטי-AI המשתנים בגיל, בקול, במבטא ובאישיות – המערכת דואגת לכך שכל מפגש עם רמאי יעניק לו תחושה שהוא ייחודי. הבוטים – שעונים לעשרות אלפי שיחות ולאלפי הודעות טקסט מדי יום – מחקים באופן בלתי ניתן להבחנה בני אנוש, ותפקידם להעסיק את הנוכלים קרוב לשעה, כדי לבזבז את זמנם ולהפיק אודותיהם מודיעין. את התובנות על הרמאים משתפים עם הלקוחות העסקיים – כדי לסייע במניעת הונאות ובניטור איומים בזמן אמת.

כך, ספקית הטלקום האוסטרלית TPG שכרה את שירותי החברה. הבוטים של אפאטה היו שותפים ליותר מ-280,000 שיחות עם רמאים, שהסתכמו ביותר מ-100 ימים של זמן ומשאבים מבוזבזים על שיחות שגויות (מהצד של הרמאים).

ב-2024, העלות של ההונאות באוסטרליה עמדה על כ-2 מיליארד דולר אוסטרלי (1.2 מיליארד דולר ארה"ב). השנה צפויות מתקפות ההונאה לצמוח, בשל השימוש של הרמאים ב-דיפ פייק מבוסס AI. ואולם במקביל השנה נכנס לתוקף במדינת האי חוק למניעת הונאות, המטיל קנסות בעשרות מיליוני דולרים על ארגונים – אם הם לא ינקטו ב-"צעדים סבירים" לדיווח, שיבוש ותגובה להונאות וניסיונות הונאה בעסקיהם. מדינות אחרות מתכוונות לחוקק חוקים דומים למניעת הונאות פרואקטיבית.