שופטת בבריטניה: עורכי דין שישתמשו בהזיות AI עלולים לעמוד למשפט

בית המשפט העליון הבריטי קרא בסוף השבוע לארגוני עורכי הדין במדינה להתכנס על מנת לנקוט בפעולות דחופות כדי למנוע את הופעתן של הזיות AI בהליכים משפטיים. זאת, לאחר שעשרות רבות של התייחסות למקרים קודמים ולפסיקות שהתבררו כפייק מוחלט או חלקי כבר נכללו בכתבי טענות שהם הגישו לבתי המשפט, ובהסכמים שהם כרתו.

עורכי דין מבצעים בתקופה האחרונה שימוש הולך וגובר בכלי בינה מלאכותית כדי למצוא תקדימים משפטיים, פסיקות והסכמים בנושאים שבהם הם מטפלים, כולל לפני כריתת הסכמים, הגשת כתבי טענות והופעות בבית המשפט. אלא שכלי ה-AI לא תמיד מדייקים ולעתים יוצרים הזיות – מידע, מסמכים ואף תמונות שקריים לחלוטין או בעלי פסקאות שלא היו ולא נבראו.

השופטת ויקטוריה שארפ והשופט ג'רמי ג'ונסון מבית המשפט העליטון בלונדון התבקשו לפסוק בכל הנוגע לשימוש בבינה מלאכותית בשני מקרים. זאת, לאחר שערכאה נמוכה יותר העלתה "חשש לשימוש של עורכי דין בכלי GenAI כדי לכתוב טיעונים משפטיים או לבנות עדויות – שלא נבדקו". זה הביא לכך שהם מסרו לבית המשפט מידע ומסמכים שאינם מדויקים. כך, למשל, בתיק נגד הבנק הלאומי של קטאר, שהועמדה על סך של 90 מיליון פאונד, שהם 120 מיליון דולר, ציטטה התביעה 18 ציטטות שכלל לא קיימות. זאת, מתוך 45 ציטטות ממקרים קודמים שהיא כללה בתיק. התובע הודה כי השתמש בכלי GenAI להבאת הציטטות ועורך דינו הודה בהגשת מידע לא נכון לבית המשפט.

השופטת שארפ כתבה ביום ו' כי יש להזיות ה-AI "השלכות רציניות על ניהול הליכים משפטיים והאמון של הציבור בבתי המשפט". היא הזהירה כי אם עורכי הדין לא יבררו את מהימנות התוצאות שכלי ה-AI סיפקו להם, הם עלולים להיות מועמדים לדין.

עוד ציינה השופטת שהרגולטור הבריטי פרסם מדריך כיצד להימנע מהצגת חומר שאינו אלא הזיות AI בפני בית המשפט, אולם כתבה שמדריך לבדו אינו מספיק.

יאן ג'פרי, המנהל של איגוד עורכי הדין המרכזי של אנגליה ו-וויילס, אמר כי הפסיקה "חושפת את הסכנות של השימוש בבינה מלאכותית בשדה המשפטי". הוא ציין כי שימוש זה הולך וגובר, "אולם, הסכנה האמיתית של העובדה שה-GenAI יכול להפיק תוצאות לא נכונות דורשת מעורכי הדין לבדוק, לסקור ולהבטיח את הדיוק של עבודתם".