KPMG משכה מהמדפים דו״ח חדש יחסית על שימוש ב-AI, ובפשטות: זה קרה כי משהו שם כנראה “הזיות” של מכונה נכנסו לתמונה. כן, גם כשמדברים על בינה מלאכותית לעסקים, לפעמים היא עושה דווקא את מה שהיא הכי טובה בו: לייצר טקסט שנשמע אמין, גם אם הוא לא תמיד נכון.
הדו״ח, שפורסם באוקטובר 2025 תחת הכותרת “Redefining excellence in the age of agentic AI”, הוסר לאחר שמספר ארגונים טענו שהטענות בו לגבי איך הם משתמשים ב-AI לא נכונות. כלומר: לא מדובר ב”אולי לא דייקנו”, אלא במשהו שמצדיק משיכה של מסמך שלם.
מי אמר שהנתונים לא מסתדרים?
מספר גופים, בהם UBS, שירות הבריאות הלאומי של בריטניה, הרכבת הפדרלית בשווייץ, ו-Transport for London, הודיעו שבמקרים שונים הטענות בדו״ח היו שגויות או לפחות מציגות תמונה מטעה. ברגע שארגונים כאלה אומרים “זה לא אנחנו”, קשה להמשיך כאילו הכל תקין.
ואז הגיעו “הזיות” הדו״ח
קבוצת מחקר בשם GPTZero זיהתה אי-דיוקים במסמך. הטענה הייתה שהשורש לבעיות קשור להלוצינציות של AI: מצב שבו מערכת מייצרת פרטים שנשמעים הגיוניים, אבל לא באמת מגובים בעובדות. במילים פשוטות: AI יכול להיות כמו חבר שיודע לספר סיפורים בצורה משכנעת, ואז אתה מגלה שהפרטים בדויים.
הטוויסט הישראלי: דו״ח על AI שנראה כאילו נכתב בעזרת AI
העניין המעניין הוא לא רק התוכן, אלא הרעיון. אם הדו״ח כולל טענות על שימוש ב-AI אצל לקוחות, ואז מתברר שהטעויות נובעות מהזיות של מודל, אז יוצא מצב קצת מצחיק ועצוב: חברת ייעוץ שמדברת על AI, ומסתבר שגם היא עלולה להסתמך על טקסט שנוצר אוטומטית בלי אימות מספיק.
KPMG: הסרנו ובודקים
דובר של KPMG אמר שהחברה הסירה את הדו״ח מהאתרים שלה בזמן שהיא מבצעת בדיקה פנימית. מעבר לזה, הדובר הדגיש שהחברה מצפה שכל העובדים יפעלו לפי הנחיות לשימוש אחראי ב-AI, כולל פיקוח אנושי כדי לוודא את התוכן ולבדוק מקורות באופן עצמאי. זה המשפט הטוב, כי הוא אומר בעצם: לא סומכים רק על “נשמע הגיוני”, בודקים.
זה לא המקרה הראשון השבוע של “הערות רפאים”
בחודש האחרון גם EY משכה דו״ח בנוגע לתוכניות תגמול בנאמנות, אחרי שהתגלה שהוא כלל הערות פיקטיביות והזיות שנוצרו על ידי AI. אז אם חשבתם שזה אירוע חד פעמי, מסתבר שהעולם עדיין לא למד לשים AI בכפפת “בדוק לפני שמאמינים”.
בקיצור: AI יכול לעזור לכתוב, לקצר, לנסח ולתמוך בתהליכים. אבל כשמדובר בטענות עובדתיות על אנשים וארגונים, צריך להפעיל את ה”אימות המציאות” האנושי. אחרת, גם הדו״ח הכי מהודר עלול להסתיים כמו תוכן שמישהו פשוט המציא בדרך.
