התביעה של אלון מאסק נגד OpenAI לא מתמקדת רק בשאלה מי עשה מה ומתי. היא מנסה להראות משהו הרבה יותר מסקרן: האם הדרך שבה OpenAI הפכה ממעבדת מחקר למנוע עסקי גדול, פגעה בשיאי הבטיחות שהיו אמורים ללוות את המשימה המקורית שלה. ובבית המשפט זה נשמע הרבה פחות תיאורטי ויותר כמו רשימת טעויות מרגיזה.
ביום חמישי, בבית משפט פדרלי באוקלנד, קליפורניה, עלתה עדות של עובדת לשעבר וחברת דירקטוריון לשעבר. היא סיפרה שבזמן שהחברה דחפה מוצרים מבוססי AI אל השוק, המחויבות שלה לבטיחות AI נפגעה. השם שנכנס לפרטים: רוזי קמפבל. היא הצטרפה לצוות היערכות ל-AGI ב-2021, ועזבה את OpenAI ב-2024 אחרי שהצוות שלה פורק. באותה תקופה נסגר גם צוות נוסף שהתמקד ביישור-על (Super Alignment), כלומר: איך לוודא שמערכות עתידיות יהיו “מסונכרנות” עם הכוונות האנושיות גם כשהן מתקדמות בצורה קיצונית.
קמפבל תיארה איך האווירה השתנתה. בהתחלה, לדבריה, זה היה בעיקר מחקרי: אנשים דיברו על AGI ועל בעיות בטיחות בצורה טבעית. עם הזמן, היא אמרה שזה הפך לארגון שמכוון יותר למוצר. בתרגום לעברית של חיי היום-יום: פחות “לבדוק שאנחנו לא עושים שטויות עם העתיד”, יותר “לשחרר מהר ולתפוס טרנד”.
הדגל האדום: GPT-4 לפני בדיקות
בחקירה נגדית היא אישרה שלמעשה צריך משאבים גדולים כדי להגיע למטרה של בניית AGI. אבל היא הדגישה נקודה קריטית: לבנות מודל מחשב-על חכם בלי אמצעי בטיחות נכונים, לא מתאים למשימה של הארגון שהיא הצטרפה אליו.
קמפבל הצביעה על מקרה ספציפי שמציף בדיוק את המתח הזה: גרסה של GPT-4 הוטמעה בהודו דרך מנוע החיפוש Bing של מיקרוסופט לפני שהמודל עבר הערכה מצד Deployment Safety Board (DSB) של OpenAI. לפי העדות, עצם המודל לא היה “סיכון ענק” באותו זמן. אבל, לדבריה, החברה הייתה חייבת לקבוע תקדימים חזקים ככל שהטכנולוגיה נהיית חזקה יותר. במילים פשוטות: גם אם עכשיו זה “כנראה בסדר”, השאלה היא איך מתנהגים כשהדברים נהיים הרבה יותר מסוכנים.
האם OpenAI באמת בטוחה יותר?
עורכי הדין של OpenAI גם ביקשו מקמפבל להודות שבדעה ספקולטיבית שלה הגישה של OpenAI לבטיחות טובה יותר מזו של xAI, החברה שאלון מאסק הקים. כן, זה קצת כמו ויכוח במסיבת רווקים: כולם טוענים שיש להם את השיטה הכי בטוחה, אבל בבית המשפט זה חייב להיות מגובה במעשים.
במקביל, OpenAI פרסמה הערכות של המודלים שלה וגם חשפה מסגרת בטיחות לציבור. אבל החברה סירבה להגיב על הגישה הנוכחית שלה ליישור מול AGI.
Altman והפעם שבה הדירקטוריון התפוצץ
אחד הרגעים שצפים בתביעה: אירוע ההטמעה בהודו היה בין הדגלים האדומים שהובילו לדירקטוריון של OpenAI ללא מטרות רווח לפטר זמנית את המנכ"ל סם אלטמן ב-2023. זה קרה לאחר תלונות של עובדים בכירים, כולל אז המדען הראשי איליה סוצקבר וה-CTO דאז מירָה מוראטי, על סגנון ניהול שמעדיף להרחיק קונפליקטים. וגם: טאשָה מקאוולי, חברת דירקטוריון בתקופה ההיא, העידה על חשש שהמנכ"ל לא היה מספיק שקוף בפני הדירקטוריון, במיוחד לאור המבנה החריג של החברה.
מקאוולי דיברה גם על דפוס שהוזכר רבות: נטייה של אלטמן להטעות את הדירקטוריון. לפי העדות, הוא שיקר לחבר דירקטוריון אחר לגבי כוונתה של מקאוולי להסיר את הלן טונר, חברת דירקטוריון נוספת שפירסמה מסמך שכלל ביקורת מרומזת על מדיניות הבטיחות של OpenAI. בנוסף, נטען שאלטמן לא עדכן את הדירקטוריון בהחלטה להשיק את ChatGPT לציבור, והחברים הביעו דאגה מחוסר גילוי של ניגודי עניינים אפשריים.
הבעיה: דירקטוריון ללא מטרות רווח לא הצליח להשפיע
מקאוולי אמרה לבית המשפט שהדירקטוריון של עמותה אמור לפקח על החברה העסקית שמתחתיה. הדרך המרכזית לעשות זאת, לדבריה, היא שהמידע שמגיע אליהם מאפשר לקבל החלטות מושכלות. ואם זה מוטל בספק, אין באמת אמון מספיק.
אבל הסיפור נהיה אירוני: החלטת ההדחה של אלטמן קרתה במקביל להצעת רכש לעובדים. מקאוולי טענה שכאשר העובדים התחילו לתמוך באלטמן ומיקרוסופט פעלה כדי להחזיר את המצב הקודם, הדירקטוריון בסוף שינה כיוון: רוב החברים התנגדו לכך שאלטמן יוחלף.
כאן מאסק נכנס לתמונה חזק. “הכשל” של הדירקטוריון בעמותה להשפיע על הצד העסקי מתחבר בדיוק לטענה של מאסק: שההפיכה של OpenAI ממעבדת מחקר לאחת החברות הפרטיות הגדולות בעולם שברה הסכם פנימי לא כתוב של מייסדי הארגון.
דיוויד שיצר, דיקן לשעבר של בית הספר למשפטים באוניברסיטת קולומביה, שמקבל תשלום מצוות של מאסק כדי לשמש עד מומחה, חיזק את הטענה: OpenAI מדגישה שבטיחות היא חלק מרכזי במשימה ושחברה תעדיף בטיחות על פני רווחים. אבל הוא אמר שהעניין הוא לא רק הסיסמה, אלא התהליך: אם משהו צריך לעבור בדיקת בטיחות, הוא חייב לקרות. “מה שחשוב זו בעיית התהליך”, הוא סיכם.
וזה כבר לא “רק מעבדה”
הוויכוח הזה, לפי מקאוולי, לא יושב בתוך קירות של מעבדה אחת. כש-AI כבר משולב עמוק בחברות למטרות רווח, הכשלונות בניהול הפנימי צריכים להיות סיבה לדרוש רגולציה ממשלתית חזקה יותר. ואם כל זה מתנקז בסוף למנכ"ל אחד שמקבל החלטות, כשיש על השולחן אינטרס ציבורי אמיתי, זה פשוט לא מצב אידיאלי.
בקיצור: התביעה של מאסק לא רק תוקפת אנשים. היא מנסה להראות מערכת שלמה שבה “למהר לשוק” עלול לדרוס “להיות בטוחים”. והפעם, בניגוד להרבה פאנלים טכנולוגיים, זה מתנהל על אמת: עם שאלות, עדויות, ותשובות שמחפשות לא רק אשמים, אלא גם תהליכים.
