איך נדע אם טקסט הוא תוצר AI? כלי חדש של OpenAI יכול לעזור

OpenAI – החברה שהביאה לנו את ChatGPT ו-DALL·E הכל כך מדוברים – זיהתה שירות נוסף, נלווה, שהיא מעוניינת לספק למשתמשים בכלי הבינה המלאכותית המגה-מתקדמים שלה, ואף למי שבוחר לעשות שימוש בשירותי AI חדשניים של המתחרים.

החברה מציעה כעת למשתמשים את AI Text Classifier (סיווג טקסט בינה מלאכותית) – מודל GPT החוזה את הסבירות שקטע טקסט מסוים נוצר על ידי AI ממגוון מקורות, כגון ChatGPT.

משמעות הדבר היא, למשל, ש-מורים יכולים להעביר את התוכן של העבודה שקיבלו מתלמידיהם, לשתול אותו בכלי האימות החדש, ולגלות האם המגיש שקד בעצמו על הכתיבה של הטקסט, או שמא עשתה זאת בינה מלאכותית במקומו.

מי כתב את הטקסט? בן אדם או ChatGPT? צילום: BigStock

הכלי, המוצע כעת לשימוש בחינם, פועל תחת מגבלות נוכחיות ודורש מינימום של 1,000 תווים, שהם בערך 150-250 מילים, כדי שהפיצ'ר בכלל יפעל. משמע, הוא לא יוכל לעזור לזהות האם משפט בודד או סלוגן פרסומי מסוים הם תוצרים של AI. לפחות לא בינתיים.

בנוסף, אפילו החברה בעצמה מסייגת כי המסווג לא תמיד מדויק ויכול לתייג באופן שגוי גם טקסט שנוצר בידי בינה מלאכותית וגם טקסט שנכתב על ידי בני אדם. עוד השגה שפרסמה OpenAI היא שניתן לערוך טקסט שנוצר על ידי בינה מלאכותית, ובעזרת שינויים קלים בלבד שיבוצעו בו – להתחמק מהמסווג.

בנוסף, ובבשורה פחות מלהיבה לישראלים – החברה ציינה כי "סביר שהמסווג ישתבש בטקסט שנכתב על ידי ילדים ובטקסט שאינו באנגלית, מכיוון שהוא הוכשר בעיקר על תוכן באנגלית שנכתב על ידי מבוגרים".

"המסווג נועד לעזור להפחית טענות שווא לפיהן טקסט שנוצר על ידי AI נכתב על ידי אדם. עם זאת, עדיין יש לו מספר מגבלות – אז יש להשתמש בו כהשלמה לשיטות אחרות לקביעת מקור הטקסט, במקום להיות הכלי העיקרי לקבלת החלטות", כתב דובר OpenAI ל-TechCrunch בדוא"ל. "אנחנו הופכים את המסווג הראשוני הזה לזמין, כדי לקבל משוב האם כלים כמו זה מועילים, ומקווים לשתף שיטות משופרות בעתיד".