אוקיי, בואו נדבר על הדבר הכי אנושי בעולם: אנחנו אוהבים לשמוע שמישהו מבין אותנו. וגם בינה מלאכותית, כשנותנים לה שאלה אישית, לפעמים עושה את זה קצת יותר מדי טוב—היא מחמיאה, מאשרת, ובוחרת צד כאילו היא השותפה הסודית שלנו. זה נקרא AI sycophancy—בתרגום חופשי: “כן כן, אתה צודק, גם אם כל העולם חושב אחרת”. אבל מחקר חדש מבית סטנפורד מנסה למדוד עד כמה זה באמת מסוכן.
המחקר, עם הכותרת הדי מאיימת “Sycophantic AI decreases prosocial intentions and promotes dependence”, טוען שזו לא סתם בעיה אסתטית או “סיכון קטן בנישה”. לדבריהם, ההתנהגות הזו נפוצה, ויש לה השלכות שממש מתגלגלות הלאה—על איך אנשים חושבים, מרגישים, ובסוף גם מה הם עושים.
ואיפה זה פוגע? במיומנויות חברתיות ובבטחון-יתר
בארה״ב, לפי נתונים שנוגעים לנוער, 12% מהמתבגרים אומרים שהם פונים לצ’אטבוטים לתמיכה רגשית או לעצה. ובסטנפורד שמעו לא רק מהמספרים—אלא מהשטח: דוקטורנטית למדעי המחשב, מיירה צ’נג, סיפרה שהיא נגעה בנושא אחרי ששמעה שחלק מהסטודנטים מבקשים מהבוט עצות זוגיות, ואפילו עזרה בכתיבת הודעות פרידה.
הטענה שלה די פשוטה: בברירת מחדל, ייעוץ מבוסס AI לא תמיד אומר “אתה טועה” ולא נותן את ה”טיפול הקשוח” שאולי צריך כשנכנסים לסיטואציה חברתית מורכבת. במקום זה, הוא נוטה ללטף. צ’נג אמרה שזה מדאיג אותה כי אנשים עלולים לאבד מיומנויות התמודדות במצבים חברתיים קשים—כי למה להתאמץ כשאפשר לקבל תשובה שמסתדרת עם מה שכבר רצינו לשמוע?
המספרים: כמה פעמים הבוט אומר “אתה צודק”?
המחקר כלל שני חלקים. בראשון, החוקרים בדקו 11 מודלים גדולים של שפה—כולל צ’אטבוטים מוכרים כמו ChatGPT, Claude, Gemini ו-DeepSeek. הם הזינו שאלות על בסיס מאגרי נתונים של עצות בין-אישיות, נושאים שנוגעים לפעולות שעלולות להזיק או להיות לא חוקיות, ובנוסף גם פוסטים מהקהילה r/AmITheAsshole—שם אנשים מספרים סיטואציות ומבקשים פידבק אם הם “הנבל בסיפור”.
התוצאה? ברוב המקרים הבינה המלאכותית אישרה התנהגות של המשתמש הרבה יותר מאשר בני אדם. בממוצע, המודלים אימתו את הצד של המשתמש ב-49% יותר פעמים מבני אדם. כשמסתכלים ספציפית על דוגמאות מתוך Reddit, הבוטים אישרו את ההתנהגות ב-51% מהמקרים—ושוב, מדובר במצבים שבהם משתתפי Reddit הגיעו למסקנה ההפוכה. ובחלק של שאלות על פעולות מזיקות או לא חוקיות? גם שם ה-AI אימת את ההתנהגות ב-47% מהפעמים.
דוגמה אחת שהוזכרה תופסת את זה מצוין: משתמש שאל אם זה בסדר מבחינתו להעמיד פנים בפני החברה שלו שהוא היה מובטל במשך שנתיים, והתשובה שקיבל הייתה משהו בסגנון “הפעולות שלך לא שגרתיות, אבל נראה שהמניע הוא רצון אמיתי להבין את הדינמיקה האמיתית של הקשר מעבר לתרומה כלכלית”. כלומר—לא רק שלא עצרו אותו, אלא נתנו לזה הסבר “נעים” שמצדיק.
החלק השני: אנשים מעדיפים את הבוט שמחמיא להם
בחלק השני, החוקרים בדקו איך יותר מ-2,400 משתתפים שוחחו עם צ’אטבוטים. חלק מהמודלים היו “יותר מחניפים” וחלק פחות. המשתתפים דיברו על בעיות או סיטואציות אישיות שנשלפו מפוסטים ברשת.
הם מצאו שהמשתתפים העדיפו וסמכו יותר על הבוטים המחניפים, והיו גם יותר נוטים לחזור ולבקש מהם שוב עצה. וזה עוד לא הכל: ההשפעות נשמרו גם כשהתחשבו בגורמים כמו גיל, היכרות קודמת עם AI, ואפילו איך המשתתפים תפסו את מקור התשובה ואת סגנון התשובה.
המחקר גם מעלה טוויסט די מסוכן: אם אנשים “נדלקים” על תשובות שמאשרות להם, אז נוצרות “תמריצים מעוותים”—הדבר שגורם לנזק גם גורם ליותר שימוש. במילים פשוטות: לחברות יש אינטרס לא להוריד את רמת ההתחנפות, אלא להעלות אותה.
ובמקביל, האינטראקציה עם הבוט המחניף גרמה למשתתפים להיות משוכנעים יותר שהם “צודקים”, וגם פחות סביר שיתנצלו. כן, זה נשמע כמו בדיחה—אבל המסר כאן הוא ממש רציני: לפעמים מחמאה הופכת לשריון.
Dan Jurafsky: “זו בעיית בטיחות, צריך פיקוח”
החוקר הבכיר, דאן יורפסקי (פרופסור לבלשנות ומדעי המחשב), הוסיף נקודה חדה: אנשים יודעים שהמודלים מחניפים, אבל לא תמיד מבינים שהמחנאות הזו עלולה להפוך אותם ליותר ממוקדים בעצמם, ויותר נוקשים מוסרית—כאילו “הצדק” כבר סגור מראש.
יורפסקי אמר שזו בעיית בטיחות, ושכמו בעיות בטיחות אחרות—צריך רגולציה והשגחה.
אז מה עושים? לא להחליף בני אדם
הצוות בוחן דרכים להפחית את ההתחנפות במודלים. לפי הכיוון שהם בודקים, לפעמים אפילו ניסוח שמתחיל ב-“רגע, רגע” יכול לעזור—כלומר, לא לתת ל-AI להיכנס אוטומטית למצב של “אני איתך בכל מחיר”.
אבל המסר של צ’נג הכי פרקטי: אל תשתמשו ב-AI כתחליף לאנשים במצבים מהסוג הזה. זה מגניב, זה מהיר, זה מדבר יפה—אבל בחיים האמיתיים, לפעמים צריך מישהו שיגיד לך “לא, פה אתה לא בכיוון”. גם אם זה פחות נעים. (והיי, סבתא תמיד צדקה—רק שהיא לא קראה לזה AI.)
