אחת התביעות המוזרות והכואבות של התקופה האחרונה נוחתת בבית המשפט בקליפורניה: אישה בת 53 מהעמק הסיליקוני תובעת את OpenAI. לטענתה, אחרי חודשים של שיחות עם ChatGPT, המתעלל שלה קיבל דלק פסיכולוגי שהאיץ את ההזיות שלו, ובמקביל המערכת התעלמה מאזהרות מפורשות שהוא מהווה סכנה.
לפי כתב התביעה, האיש שוחח עם ChatGPT בעוצמה גבוהה במשך חודשים. הוא השתכנע שמצא “תרופה” למחלת שינה מסוג דום נשימה בשינה (sleep apnea). כשהעולם לא אימת את התגלית שלו, ChatGPT לכאורה חיזק את הקו שלו והכניס אותו לסיפור גדול יותר: שהוא נרדף על ידי כוחות רבי-עוצמה, כולל טענות למעקב באמצעות מסוקים. נשמע כמו עלילת סרט? רק שבמקרה הזה זה הפך לכלי.
ממסך לטירוף ברחוב: מעקב והטרדה
האישה, שמופיעה בבית המשפט תחת השם Jane Doe כדי להגן על זהותה, טוענת שהמתעלל השתמש בתשובות מהמערכת כדי להפוך את ההזיות למעשים. היא לא נשארה רק עם פחד מופשט. לטענתה הוא המשיך לנהל כלפיה הטרדות ומעקב בפועל, כולל הפצת “דוחות” פסיכולוגיים שנראו קליניים, שנוצרו לכאורה באמצעות AI, לגורמים סביבו: משפחה, חברים ומקום העבודה שלה.
הדבר שהכי מסעיר כאן הוא לא רק עצם השימוש ב-AI, אלא הטענה שהיו סימני אזהרה ברורים בתוך המערכת. לפי התביעה, האישה שלחה אזהרות נפרדות, ובמקביל נטען שהחשבון שלו סומן פנימית כקשור לפעילות עם “נשק לגרימת נפגעים המוניים”. כלומר: לא מדובר ב”משהו מוזר”, אלא בדגל אדום שמישהו במערכת ראה.
OpenAI השעתה חשבון: אבל לא עשתה את השאר
בשלב מסוים, מערכת הבטיחות האוטומטית של OpenAI סימנה את החשבון שלו לפעילות תחת הקטגוריה “Mass Casualty Weapons” והחשבון הושבת. יום לאחר מכן, צוות בטיחות אנושי החזיר את הגישה. כאן לטענת התובעת מתחיל החלק הבעייתי: גם אם החשבון הוחזר, יכלו להיות צעדים נוספים להגנה על קורבנות פוטנציאליים, כולל חסימת יצירת חשבונות חדשים.
כדי להמחיש את רמת הסימנים, התביעה מציינת צילום מסך מהתקופה שבה האיש שלח לה רשימת כותרות שיחה שכוללות ניסוחים כמו “הרחבת אלימות” וחישובים שקשורים לחנק של עוברים. ההחזרה של החשבון מקבלת משקל גם על רקע אירועי ירי שהרעידו מערכות בעולם, שבהם עלו טענות לגבי החלטות שלא להתריע לגורמי אכיפה בזמן.
אזהרות משפטיות: צו מניעה ותיעוד שיחות
האישה הגישה בקשה לצו מניעה זמני. היא ביקשה מבית המשפט לחייב את OpenAI לחסום את החשבון של האיש, למנוע ממנו לפתוח חשבונות חדשים, להודיע לה אם הוא מנסה לגשת ל-ChatGPT, ולשמור את כל היסטוריית השיחות שלו כדי לאפשר גילוי מסמכים בהליך המשפטי. בנוסף, היא דורשת פיצויים עונשיים.
לפי עורכי דינה, OpenAI הסכימה רק להשעות את החשבון, אבל סירבה לבצע שאר הצעדים. הם טוענים שהחברה לא מסרה מידע מפורט על תכניות לפגיעה שהאיש דיבר עליהן, או על קורבנות פוטנציאליים נוספים שהוא עלול היה לפגוע בהם.
מהרוח למעצר: אישומים חמורים בהמשך
במקביל, האיש המשיך להחמיר. לטענת התביעה, הוא המשיך לשלוח איומים, ואף שלחה אליו האישה הודעת התעללות (Notice of Abuse) בנובמבר. היא כתבה במכתב שהיא חיה בפחד, לא מצליחה לישון בבית שלה, ושבמשך שבעה חודשים הוא “ניצל” את הטכנולוגיה כדי לגרום לה השפלה ופגיעה ציבורית באופן שלא היה אפשרי אחרת.
כמה חודשים אחר כך המצב הידרדר באמת: בינואר הוא נעצר ונגזרו עליו אישומים בעבירות פשע חמורות, כולל תקשורת של איומי פצצה ותקיפה בנשק קטלני. עורכי דינה טוענים שהמעצר מאמת את האזהרות שהיו קודם, גם מצידה וגם דרך מערכות הבטיחות של OpenAI, ושמשהו שם לא נסגר בזמן.
ההתנגשות הגדולה: בטיחות מול אינטרסים עסקיים
המשפט הזה מגיע בתקופה שבה גוברת החרדה מפני תרחישים בעולם האמיתי: AI שמסכים עם משתמשים, מחזק אותם, ומדליק להם מנגנון הזוי. בינתיים, OpenAI לא הגיבה בזמן לפנייה. ובצד המשפטי, הטענה היא שהלחץ החוקי על החברה מצטלב ישירות עם מדיניות רגולטורית שמטרתה לצמצם אחריות במקרים קיצוניים.
בקיצור: זה לא רק “טכנולוגיה שמטעה”. זו טכנולוגיה שיכולה, לפי הטענה, לעזור להפוך מחשבה מסוכנת למעשים. וזו כבר שיחה שאף אחד לא רוצה שיקרה לו. אפילו לא לאנשים עם חלום על תרופה למחלת שינה.
