מחקר חדש של Microsoft Research ואוניברסיטת Carnegie Mellon מצא שעובדי ידע שסומכים יותר על כלי AI גנרטיבי מדווחים שהם משקיעים פחות מאמץ בחשיבה ביקורתית. התמונה ההפוכה מתקבלת אצל מי שבטוח ביכולת שלו לבצע את המשימה בעצמו: הוא בודק יותר.
מה נבדק
המאמר, בשם "The Impact of Generative AI on Critical Thinking", נכתב על ידי שבעה חוקרים, שישה מהם מ-Microsoft Research בקיימברידג' ואחד, הכותב הראשון Hao-Ping (Hank) Lee, מ-Carnegie Mellon. הוא יוצג בכנס CHI 2025 של ACM, שייערך ביוקוהמה בין 26 באפריל ל-1 במאי.
החוקרים גייסו 319 עובדי ידע דרך פלטפורמת המחקר Prolific, כולם משתמשים בכלי AI גנרטיבי בעבודה לפחות פעם בשבוע. כל משתתף תיאר שלוש דוגמאות אמיתיות לשימוש בכלי, ובסך הכל נותחו 936 דוגמאות. כמעט כל המשתתפים, 96.9%, ציינו את ChatGPT בין הכלים שלהם, ואחריו Copilot ו-Gemini. המשתתפים עצמם ציינו שהם הפעילו חשיבה ביקורתית בכ-59% מהדוגמאות.
הממצא המרכזי: אמון מול ביטחון עצמי
במרבית הדוגמאות דיווחו המשתתפים שהשימוש ב-AI הפחית את המאמץ בפעולות חשיבה כמו הבנה, ניתוח וסינתזה. שיעור הדוגמאות שסווגו כ"פחות מאמץ" נע בין 55% ל-79%, תלוי בסוג הפעולה, והנמוך ביותר היה דווקא בשלב ההערכה.
הניתוח הסטטיסטי הראה שני כיוונים מנוגדים. ככל שהאמון של המשתתף ביכולת ה-AI לבצע את המשימה גבוה יותר, כך הוא תופס את החשיבה הביקורתית כמאמצת פחות. החוקרים מציעים הסבר אפשרי: אמון והסתמכות גורמים למשתמשים להשקיע פחות מדי בבדיקה. מנגד, ביטחון של המשתתף ביכולת שלו לבצע את המשימה קשור למאמץ רב יותר, במיוחד בהערכת התשובה ובשילוב שלה בעבודה.
החוקרים מזכירים גם תופעה שתוארה במחקרים קודמים, "התכנסות ממוכנת": משתמשים שנעזרים ב-AI מפיקים מגוון קטן יותר של תוצרים לאותה משימה, לעומת מי שעובד בלעדיו.
לאן עובר המאמץ
החלק האיכותני של המחקר מתאר שינוי בסוג העבודה המחשבתית, לא רק בכמות שלה. באיסוף מידע, המאמץ עובר מחיפוש לאימות. ביישום, הוא עובר מפתרון הבעיה לשילוב התשובה של המכונה בהקשר הספציפי. בניתוח ובהערכה, העובד הופך ממבצע המשימה למי שמפקח עליה.
אחת הדוגמאות במאמר מגיעה מעולם המשפט. עורך דין שהשתמש ב-ChatGPT כדי לאתר חקיקה רלוונטית לתיק סיפר שהכלי נוטה להמציא מידע שתומך בטענה שהמשתמש מנסה להוכיח, ולכן אימות ידני גוזל זמן יקר. החוקרים כותבים במפורש שהסתמכות עשויה להיות נסבלת במשימות קלות כמו בדיקת דקדוק, אבל עלולה להוביל לתוצאות שליליות משמעותיות בהקשרים רגישים, ונותנים כדוגמה ניסוח מסמכים משפטיים. משתתפים אחרים תיארו מצב של חוסר ביטחון בתחום שאינו מוכר להם, למשל בניסוח מכתבים משפטיים, שהוביל אותם לקבל את התוצר כמו שהוא.
מה החוקרים ממליצים
כפי שדיווח The Register, החוקרים לא ממליצים להפחית את השימוש בכלים. ההמלצה היא לעצב אותם אחרת: כלים שמעודדים את המשתמש לעצור ולבחון את התוצר, שתומכים בפיתוח מיומנויות לאורך זמן ושמסבירים את הדרך שבה הגיעו לתשובה. לצד זה, הם ממליצים שעובדים ישמרו על מיומנויות היסוד שלהם באיסוף מידע ובפתרון בעיות, ויקבלו הכשרה באימות ובפיקוח על תוצרי AI.
חשוב לזכור את גבולות המחקר: מדובר בסקר מקוון שמבוסס על דיווח עצמי, כך שהוא מצביע על קשר ולא מוכיח סיבתיות. החוקרים עצמם מציינים שמשתתפים לעיתים בלבלו בין מאמץ מופחת בשימוש בכלי לבין מאמץ מופחת בחשיבה הביקורתית, ושהביטחון העצמי שדווח לא בהכרח משקף מומחיות בפועל.
עבור משרדי עורכי דין, הממצאים משיקים לשאלה מעשית: מי בודק את התוצר, ובאיזה עומק. אם האמון בכלי הוא מה שמוריד את רף הבדיקה, נהלי עבודה שמחייבים אימות של כל אסמכתה והשוואה למקור הם לא רק דרישה אתית, אלא גם מנגנון שמחזיר את החשיבה הביקורתית לתהליך.