מחקר חדש מזהיר: שימוש מוגבר ב-GenAI עלול לפגוע בחשיבה

מחקר חדש שנערך על ידי חוקרים ממיקרוסופט ואוניברסיטת קרנגי מלון, שתוצאותיו נחשפו באחרונה, בחן את ההשפעה של שימוש בבינה מלאכותית יוצרת (GenAI) על כישורי החשיבה הביקורתית של עובדים. הממצאים מצביעים על קשר המתקיים בין הסתמכות גוברת על כלי AI לבין ירידה במאמץ הקוגניטיבי וביכולת החשיבה הביקורתית.

במסגרת המחקר, 319 עובדים מתחומים שונים דיווחו על 936 מקרים של שימוש ב-GenAI בעבודתם. הם התבקשו למלא שאלון מפורט על אופן השימוש שלהם בכלי ה-AI, על רמת הביטחון שלהם ביכולותיו, והערכתם את התפוקות של הכלי. המשתתפים דיווחו על מגוון משימות שביצעו באמצעות טכנולוגיית הבינה המלאכותית היוצרת, החל מיצירת תמונות למצגות ועד להפקת המלצות למשאבים ואסטרטגיות חדשות.

ככל שהעובדים יותר בטוחים ב-AI – חשיבתם פחות ביקורתית

החוקרים מצאו כי קיימת קורלציה ישירה בין אמון העובדים בכלי, לבין מידת החשיבה הביקורתית שהם הפעילו. עוד צוין כי בעת ביצוע משימות שגרתיות ובעלות סיכון נמוך, משתמשים נטו להסתמך באופן מוחלט על ה-AI, מה שהעלה חששות לגבי השפעות ארוכות טווח על יכולת פתרון הבעיות העצמאית שלהם.

החוקרים ציינו כי "על ידי מיכון משימות שגרתיות והשארת טיפול במקרים חריגים למשתמשים בני האנוש, נשללות מהם הזדמנויות שגרתיות לתרגל את שיקול הדעת ולחזק את שרירי החשיבה הקוגניטיבית שלהם, מה שמותיר אותם מנוונים ולא מוכנים כאשר המקרים החריגים אכן מתעוררים".

דוגמה לכך ניתן לראות בעדותו של אחד המשתתפים, כיצד נעזר ב-ChatGPT מבית OpenAI כדי לנסח מחדש טקסט: "זהו תהליך פשוט, וידעתי ש-ChatGPT יכול לעשות זאת ללא קושי, כך שפשוט מעולם לא חשבתי על זה, מכיוון שחשיבה ביקורתית לא הרגישה רלוונטית".

האם הוא מחבל בחשיבה הביקורתית? כלי הבינה המלאכותית היוצרת ChatGPT מבית OpenAI. צילום: Shutterstock

עם זאת הסתבר כי כאשר לעובדים היה פחות אמון בתפוקות הצ'טבוט, הם הפעילו יותר חשיבה ביקורתית שכללה בדיקה של התוצאות, חיפוש שגיאות ותיקון אקטיבי לתוצר של ה-AI. משתתף שהוא בתפקידו עורך אתר, תיאר את חוסר שביעות רצונו מהתוכן שנוצר על ידי ה-AI: "הפלט הוא גנרי מדי, מלא קלישאות ומשעמם. אני צריך לערוך אותו הרבה, כדי להוציא ממנו משהו שאוכל לתת לבוסים שלי".

עובד נוסף שהשתתףפ במחקר, רוקח במקצועו, ושהשתמש ב-ChatGPT כדי לכתוב מסמכי פיתוח מקצועי מתמשך (CPD), ציין כי הוא נאלץ לבדוק היטב את התוכן שנוצר על ידי ה-AI כדי להימנע נזק שיכול אפילו להתבטא בהשעיה, עקב חוסר דיוק של הכלי.

ממצא מעניין נוסף היה שמשתמשים בכלי GenAI הפיקו מגוון תוצאות מצומצם יותר לאותה משימה, בהשוואה לאלה שלא השתמשו בכלי הבינה המלאכותית היוצרת. החוקרים רואים בכך אינדיקציה נוספת להיחלשות החשיבה הביקורתית.

ההמלצה היא לעשות "שימוש נכון" בטכנולוגיה

לחץ זמן ותרחישים בעלי סיכון גבוה השפיעו גם הם על מידת החשיבה הביקורתית שהעובדים הפעילו בעת הפעלת צ'טבוט לתועלתם. עובדים שעבדו בלחץ זמן הפעילו פחות חשיבה ביקורתית, בעוד שמי שנמצאו בתרחישי עבודה בעלי סיכון גבוה – הפעילו יותר חשיבה ביקורתית, מחשש לתקלות שעלולות לגרום נזקים.

לדברי החוקרים, "שימוש לא נכון בטכנולוגיות יכול לגרום להידרדרות של יכולות קוגניטיביות שצריך לשמר". לפי החוקרים, "כלי GenAI יכולים לשלב תכונות המקלות על למידה של משתמשים, כמו מתן הסברים להיגיון הבינה המלאכותית, הצעות תחומים לחידוד ממשתמשים או מתן ביקורת מודרכת", כתבו החוקרים. "הכלי יכול לעזור לפתח מיומנויות חשיבה ביקורתיות ספציפיות, כמו ניתוח טיעונים או הצלבת עובדות מול מקורות מוסמכים. זה יתיישר עם הגישה לשיפור המוטיבציה של מיצוב AI כשותפה בפיתוח מיומנויות", נכתב. החוקרים אף הציעו לשלב בכלי ה-GenAI תכונות שיסייעו ללמידה של המשתמש, כגון ניתוח טיעונים או הצלבת עובדות מול מקורות סמכותיים.

עיקרי המסקנות של המחקר הם למעשה שנדרשת גם פעולה פרו-אקטיבית של המשתמשים מול כלי ה-AI היוצרים עבורם משימות בעבודתם, ולצידה תועיל גם השקעה של המפתחים של כלים אלו בהפיכתם ליותר "מתכווננים" וקשובים תוך כדי תהליך יצירת התכנים אל המשתמשים.