אמזון שוב במרכז הדרמה של עולם ה-AI, והפעם זה לא רק עניין של ביצועים או סקייל. לפי דיווחים, מנכ"ל אמזון אנדי ג'סי דיבר עם גורמי ממשל לפני שהממשלה האמריקאית הטילה מגבלות ייצוא על מודלים של אנתרופיק. כן, זה נשמע כמו פרק נוסף בסדרה, רק שבמקום קירות גבס יש כאן שרתים וסייבר.
הטענה המרכזית: ג'סי העלה חשש ביטחוני סביב מודלים של אנתרופיק, ובפרט לגבי שימוש שיכול לאפשר איסוף מידע שעלול לשמש לתקיפות סייבר. הדיווח מציין שאנשי מחקר באמזון השתמשו במודל בשם Claude Fable 5 כדי להשיג מידע שיכול, בתרחיש מסוים, לשמש בסיס לפעולות עוינות. ואז, לא עבר הרבה זמן עד שהממשלה נכנסה לתמונה.
התוצאה: הוטל איסור בקרת ייצוא על שני מודלים, Fable 5 ו-Mythos 5. כלומר, לא מדובר רק ב"אזהרה" תיאורטית, אלא במנגנון רגולטורי שמגביל איך ומתי אפשר להעביר את הטכנולוגיה החוצה.
מה אמזון אמרה על השיחות עם הממשלה?
דובר של אמזון מסר שהחברה לא מופתעת מכך שממשלות מבקשות את עמדתה לגבי סיכוני אבטחה אפשריים. יחד עם זאת, הוא הדגיש שאין שיתוף בפרטים של השיחות האלה. במילים פשוטות: כן, יש דיאלוג. לא, אתם לא תקבלו את כל הציטוטים והפרטים הקטנים.
בנוסף, הדובר ציין שמתקיים גם עדכון שמראה שהשינוי במודל השפיע על AWS. כלומר, גם סביבת הענן של אמזון נמצאת תחת אותה מציאות חדשה שנוצרה בעקבות ההגבלות.
דיווחים נוספים: "ג'יילברייק" שהגיע כשותף אמין
עוד שכבה לסיפור מגיעה מהתיאור של דיוויד סאקס, מי שהיה בעבר "צאר AI" בתקופת טראמפ וכיום מכהן כיו"ר משותף במועצה המייעצת של הנשיא למדע וטכנולוגיה. לפי התיאור שלו, שותף אמין ומוכר גם לאנתרופיק וגם לממשל האמריקאי פנה והציג מקרה של jailbreak. אם אתם לא חיים על דיאטת ז'רגון: jailbreak זה ניסיון לעקוף את ההגנות של המודל כדי לגרום לו לייצר תוצרים שלא אמורים להיות זמינים.
סאקס טען שהממשל ביקש מאנתרופיק לתקן את הפרצה או להסיר את הפריסה של המודל. ואז מגיע החלק הדרמטי: לפי הטענה, דאריו אמודיי, מנכ"ל אנתרופיק, סירב לעשות זאת.
ואנתרופיק: היכולות כבר קיימות במודלים אחרים
אנתרופיק מצידה הגיבה בבלוג פנימי, וטענה שהיכולות שעוררו חששות אצל הממשלה כבר זמינות גם במודלים אחרים שנגישים לציבור. כלומר, לטענתם, הבעיה אינה "משהו חדש ומפלצתי" שנמצא רק שם, אלא משהו שקיים כבר במסלולים אחרים של שוק המודלים הפתוחים יותר.
באותו עדכון, הוזכר גם שנמסרה תגובה מצד דובר אמזון, כך שהסיפור הזה ממשיך להתעדכן כמו אפליקציה שלא מפסיקה לשלוח התראות.
אז מה המשמעות פה באמת?
אם מסכמים את זה בלי דרמה: אנחנו רואים איך ענקיות ענן, ספקיות מודלים והרגולטור מתנגשים על שאלת ליבת ה-AI: לא רק מה המודל יודע לעשות, אלא מה אנשים יכולים לעשות איתו כשהם נחושים לעקוף את הכללים. ובשורה התחתונה: כשזה נוגע לאבטחה, אף אחד לא מחכה שהמשבר יגיע אליו. הוא מגיע, ואז סוגרים את הברזים.
