דלויט מכרה דו"ח מבוסס AI – עם שגיאות והזיות – ב-290 אלף ד'

דו"ח שערכה חברת הייעוץ דלויט (Deloitte) עבור ממשלת אוסטרליה, תמורת סכום לא זניח של 290 אלף דולר, התגלה כמפוברק, הכיל שגיאות שנוצרו בידי בינה מלאכותית וכלל הפניות למאמרים אקדמיים שאינם קיימים, עם ציטוט דמיוני מפסק דין של בית משפט פדרלי. לאחר שנתפסה בקלקלתה, הודיעה דלויט כי תחזיר חלק מהסכום לממשלת אוסטרליה. 

הדו"ח, שהוזמן על ידי המחלקה לתעסוקה ויחסי עבודה (DEWR), פורסם ביולי. הוא נועד להעריך את מסגרת הציות 'Future Made in Australia' ומערכת ה-IT הקשורה אליה. גרסה מתוקנת של אותו דו"ח פורסמה בשקט בספטמבר, לאחר שכריס ראדג', חוקר חוקי הבריאות והרווחה באוניברסיטת סידני, התריע בתקשורת כי הדו"ח "מלא בהתייחסויות מפוברקות".

דלויט בחנה את הדו"ח, בן 237 העמודים, ואישרה כי "חלק מהערות השוליים וההפניות היו שגויות". הגרסה המתוקנת של הדו"ח כוללת גילוי נאות, לפיו במהלך הכנת טיוטת הדו"ח נעשה שימוש במערכת בינה מלאכותית יוצרת (GenAI) מבוססת Azure OpenAI GPT-4o. מהדו"ח נמחקו גם ציטוטים מפוברקים, המיוחסים לשופט בית משפט פדרלי וכן התייחסויות לדו"חות לא קיימים, אותם ייחסו "מחברי" הדו"ח למומחים למשפט והנדסת תוכנה.

דלויט ציינה בסעיף "עדכון דו"ח" כי הגרסה מ-26 בספטמבר החליפה את הדו"ח שפורסם ביולי. "העדכונים שבוצעו אינם משפיעים בכל אופן על התוכן, הממצאים וההמלצות המהותיים בדו"ח", מסרה חברת הייעוץ.

@BarbaraPocock @Green_Dot #DEWR #Deloitte https://t.co/GMSvMuDYJF

— Sarah Maloney (@SarahMoloney36) October 11, 2025

"דלויט דוליטל" – השלכות ולקחים מהפרשה

בסוף אוגוסט דיווח ה-Australian Financial Review כי המסמך מכיל שגיאות רבות, וציטט את החוקר ראדג' כמי שזיהה את השגיאות, ההזיות ואי הדיוקים שנוצרו על ידי הבינה המלאכותית. ראדג' מצא פסקה בה נאמר כי ליסה ברטון קרופורד, פרופסורית למשפט ציבורי וחוקתי באוניברסיטת סידני, חיברה ספר, שאינו קיים, ולו כותרת שאינה בתחום המומחיות שלה. "מיד ידעתי שזו הזיה שנוצרה על ידי בינה מלאכותית… מעולם לא שמעתי על הספר. זה נשמע מגוחך", סיפר ראדג'.

חברות הייעוץ והניהול הגדולות, כמו מק'ינזי (McKinsey), השקיעו מאות מיליוני דולרים ביוזמות AI לשיפור עבודתן. בספטמבר הודיעה דלויט שתשקיע 3 מיליארד דולר בפיתוח בתחום עד 2030. לפני ימים אחדים אנת'רופיק (Anthropic) הכריזה על שותפות עם דלויט – מודל השפה הגדול שלה קלוד (Claude) יהיה זמין ליותר מ-470,000 עובדי החברה.

ביוני, מועצת הדיווח הפיננסי הבריטית – הרגולטורית למקצוע ראיית החשבון – הזהירה שחברות הייעוץ הגדולות נכשלות בפיקוח על האופן שבו AI ומיכון משפיעים על איכות הביקורת שלהן.

הסנאטורית ברברה פוקוק, ממפלגת הירוקים האוסטרלית, אמרה כי דלויט צריכה להחזיר את מלוא הסכום – בסך 440,000 דולרים אוסטרלים למדינה. "דלויט השתמשה לרעה בבינה מלאכותית ובצורה מאוד לא הולמת: ציטטה שופט, השתמשה בהפניות שאינן קיימות", אמרה פוקוק.

"העניין נפתר ישירות מול הלקוח", מסר דובר דלויט בתגובה.

ממשלת אוסטרליה מסרה כי חוזי ייעוץ עתידיים יהיו עשויים לכלול סעיפים מחמירים יותר לגבי שימוש בבינה מלאכותית. אתרים באוסטרליה כינו את חברת הייעוץ "דלויט דוליטל", וקראו "להפסיק להתייחס לבינה מלאכותית כמו אל שרביט קסמים".

Deloitte Dolittle: Stop treating AI like a magic wand – Horses for Sources | No Boundaries #Deloitte #DEWR https://t.co/z2bBU8B9ei

— Sarah Maloney (@SarahMoloney36) October 10, 2025

"זהו הצד האפל של עידן השירותים-כתוכנה"

אחד מכתבי הטכנולוגיה ציין כי "המקרה הוא לא רק מביך – זהו שיעור של 290,000 דולרים במה שקורה כששיקול דעת מקצועי מוחלף באמון עיוור בבינה מלאכותית. AI בלא אימות – אינה חדשנות. זוהי רשלנות מקצועית שצפויה להתפוצץ. GPT-4o לא התקלקל – התהליך של דלויט, כן… המודל לא נכשל. הוא ייצר טקסט שוטף ואמין בדיוק כפי שתוכנן. מה שנכשל היה התהליך והאחריות. מישהו יצר תוכן, דילג על אימות והגיש אותו ללקוח ממשלתי, שהחלטותיו משפיעות על מיליוני אזרחים בהיקף של מיליארדי דולרים לתשלומי רווחה. ההימור היה גבוה מדי, ולמרות זאת נערכו קיצורי דרך… עבודה בסיכון גבוה דורשת בדיקה אנושית מוסמכת של כל טענה וציטוט. אסור להניח שטענה סבירה הופכת לטענה אמיתית. סבירות לא שווה אמת. דלויט נתפסה על ידי אקדמאי חרוץ אחד. כמה דו"חות לא מאומתים ולא בדוקים נמצאים במערכות שלכם כרגע? זהו הצד האפל של עידן השירותים-כתוכנה. בלא בקרות – שירותים-כתוכנה קורסת והופכת להיות לשירותים-כספין. האימות הוא חובה מקצועית ומוסרית, כמו גם ביצוע מיקור חוץ של שיפוט, עבור מערכת שממציאה עובדות בביטחון עצמי גדול. השערורייה של דלויט אינה חריגה. זוהי יריית האזהרה למשבר אמינות גדול בהרבה שיתרחש בכל תעשייה".

בהכנת הידיעה השתתף פלי הנמר