קבוצת מומחי סייבר אמריקאים, כולל לא מעט שמות עם עבר מכובד בתעשייה, החליטה לא לשתוק. הם פרסמו מכתב פתוח לממשל האמריקאי בדרישה לבטל או לפחות להקל על צו בקרת היצוא שמגביל את חברת Anthropic בכל הנוגע למודלים Fable ו-Mythos, שלדבריהם הם מהכלים הטובים ביותר עבור מגני סייבר.
במכתב נטען שההחלטה “לקחה את המודלים הטובים ביותר מידי מגני סייבר”. התוצאה, לפי החותמים: אנשי הגנה כבר לא יכולים להשתמש במודלים כדי לאתר חולשות, לשפר אבטחה בתוכנה ובמוצרים, ולצמצם פגיעויות עוד לפני שהאקרים מגיעים. אחד המשפטים החדים במכתב: להרחיק יכולות חזקות ממי שמגן, בלי הצדקה משכנעת, בזמן שהיריבים משתפרים במהירות, זה פשוט מסוכן.
הסיפור התחיל ביום שישי: הממשל האמריקאי הורה ל-Anthropic להגביל את היצוא של Fable ו-Mythos, תוך ציון חששות לביטחון לאומי, אבל בלי לפרט מה בדיוק עומד מאחורי הצו. בתגובה, החברה עצרה גישה למודלים לכל המשתמשים ברחבי העולם.
מי חתום על המכתב ומה הם אומרים?
נכון למועד כתיבת הדברים, המכתב כולל 76 מומחי סייבר, ביניהם: Alex Stamos לשעבר ראש האבטחה של פייסבוק, Casey Ellis מייסד פלטפורמת bug bounty Bugcrowd, Jon Callas קריפטוגרף נודע ולשעבר מנהל בתחום אבטחת העיצוב והארכיטקטורה באפל, Paul Vixie מדען מחשבים, Dino Dai Zovi לשעבר ראש הנדסת אבטחה יישומית ב-Block, Katie Moussouris מייסדת Luta Security, ו-Rachel Tobac מנכ״לית חברת SocialProof Security לאימון מודעות אבטחה.
כש-Mythos הושק באפריל כגרסת Preview, Anthropic טענה שהיכולת שלו למצוא חולשות אבטחה כל כך גבוהה, שהיא מחייבת הגבלות הדוקות כדי למנוע מנוכלים או יריבים זרים לנצל את זה כדי לגרום נזק. בפועל, החברה נתנה גישה ראשונית לכ-50 חברות, ובהמשך הרחיבה את המעגל לכ-150 ארגונים ב-15 מדינות.
Fable: “עם מעקות” ואז כולם התווכחו על המעקות
בשבוע שעבר, Anthropic שחררה את Fable, גרסה ציבורית של Mythos. החברה טענה שיש לה “מעקות” (guardrails) שמונעים שימוש בתחומים כמו ביולוגיה וכימיה, וגם בתחום הסייבר עצמו. בנוסף, נטען שהמעקות נועדו לעצור ניסיון לזקק (distill) את המודל כדי לשחזר אותו.
אבל מומחי סייבר רבים לא אהבו את מה שראו: המעקות היו כל כך קשוחים, עד שחלק מהבקשות שנוגעות ממש לעבודת אבטחה בסיסית, כמו ניסיונות לזהות חולשות, פשוט נחסמו או סורבו.
בתוך כל זה נכנסת הטענה המרכזית של מתנגדי האיסור: Anthropic רמזה שהצו של הבית הלבן התבסס על דיווח שלפיו קיימת דרך לעקוף או “לפרוץ” את המעקות של Fable ולהפעיל יכולות חזקות ברמת Mythos. והחותמים אומרים: רגע, זו לא הבעיה כפי שמציגים אותה.
הטיעון של Moussouris: לא באמת “פריצה”, יותר בדיקת תיקון קוד
Katie Moussouris מסבירה שהשיטה הודגמה במחקר של חוקרים מאמזון. רק שהמחקר הזה אינו ציבורי, והיא עיינה בו. לדבריה, זה לא ממש jailbreak אמיתי. במקום זה, התרגיל היה לבקש מ-Fable “לתקן” קוד פתוח עם חולשות מוכרות, ואז להוסיף גם חולשות “שתולות” בכוונה. כשהמודל סירב בהתחלה לבדוק את הקוד לאיתור בעיות אבטחה, החוקרים ניסו להוביל אותו לתיקון.
הביקורת שלה חדה: התנהגות כזו לא ניתנת לתיקון משמעותי, וכל ניסיון “לסגור חור” רק יחליש את המודל להגנה. לפי Moussouris, מגנים צריכים יכולת לשאול את ה-AI איך לתקן באג בקובץ, להסביר למה התיקון חשוב, ולכתוב בדיקות שמאשרות שהפאץ׳ באמת עובד. זה לא “עקיפה של מעקות”, זה בדיוק הדבר הכי שימושי שמודל AI יכול לעשות להגנת סייבר: לולאת Find, Fix, Test שמתרחשת בעולם האמיתי כל יום.
האם אפשר לשחזר את זה במודלים אחרים?
במכתב נטען גם שיכולות מהמחקר שצוין, “ניתנות לשחזור”, לא רק ב-Fable אלא גם במודלים אחרים: GPT-5.5 של OpenAI, Claude Opus 4.8 ו-Sonnet של Anthropic, ואפילו מודלים סיניים כמו Kimi 2.7. כלומר: אם הבעיה היא עקיפה, אז היא לא תלויה רק במודל הספציפי שנחסם.
Moussouris הוסיפה בראיון שטכניקות ההדגמה לא תלויות ב-Fable בלבד. אפשר למצוא את הבאגים שמשמשים להדגמה גם עם מודלים אחרים. לכן, אם למודל אין את אותם מעקות קשוחים, הוא פשוט לא יסרב לבקשה הישירה לבדוק חולשות.
לבסוף, החותמים מבקשים רגולציה שתיאכף בצורה שקופה והוגנת, דרך תהליך “דמוקרטי” של קביעת כללים המבוסס על מחקר מדעי שנעשה על ידי מומחים מהתעשייה והאקדמיה, ושמשתמשים בה רק במינימום ההכרחי כדי לשמור על בטיחות הציבור האמריקאי.
במילים פשוטות: הם לא אומרים “תנו לאנשים לפרוץ”. הם אומרים: אל תענישו את המגנים. בעולם שבו האקרים לומדים מהר, לפעמים האויבים לא צריכים יותר כוח. הם צריכים פחות חיכוך.
