אנטרופיק שוב עושה משהו שמרגיש כמו “גם מדויק וגם מפחיד”: היא אמרה שהיא הגבילה את ההפצה של המודל החדש שלה, Mythos, כי הוא מסוגל למצוא פרצות אבטחה בתוכנות שאנשים וחברות משתמשים בהן ברחבי העולם. במקום לשחרר אותו לקהל הרחב, במעבדת ה-Frontier היא תשתף אותו עם קבוצת ענקיות וארגונים שמפעילים תשתיות אינטרנט קריטיות: מ-AWS ועד JPMorgan Chase.
בגדול, הרעיון ההגיוני נשמע כמו סרט אקשן עם אזהרה לפני: תנו לחברות הגדולות להקדים את “הרעים” ולסגור חורים לפני שמישהו אחר ינצל אותם. ואם אתם חושבים שזה נשמע כמו תוכנית אבטחה קלאסית, אתם לא לבד. גם לגבי OpenAI יש שמועות שהיא שוקלת מסלול דומה לכלי הסייבר הבא שלה.
אבל אז מגיע העניין הקטן שמדליק נורה אדומה: כל הסיפור הזה דוחף אותנו לשאלה יותר רחבה. האם זה באמת רק עניין של הגנה על האינטרנט? או שיש כאן גם אלמנט של שליטה במה שמודלים יודעים לעשות, ומתי הציבור בכלל מקבל גישה ליכולות האלו?
מה באמת המשמעות של “פרצה” בעיניים של תוקף?
איש סייבר-איי-איי, דן לאהב, מנכ"ל מעבדת הסייבר Irregular, הסביר עוד לפני ש-Mythos יצא: לא כל גילוי חולשה שווה ערך לתוקף. השווי תלוי בהרבה גורמים, למשל איך אפשר לשלב אותה עם דברים אחרים כדי להגיע לתוצאה מסוכנת. במילים פשוטות: למצוא חור זה טוב, אבל השאלה היא האם אפשר ממש “להיכנס” דרכו, לבד או כחלק מרשת של חולשות.
אנטרופיק טוענת ש-Mythos יודע לנצל חולשות הרבה יותר מאשר הדגם הקודם שלה, Opus. ועדיין, לא בטוח שזה “הגרייל הקדוש” של מודלי סייבר. סטארטאפ בשם Aisle טוען שהוא הצליח לשחזר חלק גדול מהביצועים שמייחסים ל-Mythos באמצעות מודלים קטנים יותר, כאלה עם משקולות פתוחות. הטענה שלהם די מתבקשת: אין מודל אחד שמתאים לכל בעיות הסייבר. זה תלוי במשימה, בנתונים, ובטריקים של האימון.
או שזה גם עסק: למה רק ענקיות מקבלות את זה?
כאן נכנס הטוויסט הישראלי: לפעמים “בטיחות” היא גם שם קוד ל”עסקה”. אם Opus כבר היה נתפס כקפיצת מדרגה בתחום הסייבר, אז למה להגביל? אחת האפשרויות היא שהחברות החזיתיות רוצות לשמור את היתרון שלהן דרך חוזים עם ארגונים גדולים. זה יוצר גלגל שמושך עוד כסף מהענקיות, ובמקביל מקשה על מתחרים לשכפל את היכולות דרך distillation: טכניקה שבה משתמשים במודל חזק כדי לאמן מודל חדש, בדרך כלל זולה יותר.
דיוויד קרשו, מהנדס תוכנה ומנכ"ל exe.dev, ניסח את זה בצורה חדה ברשת: “זה כמו כיסוי שיווקי לעובדה שמודלים מהשורה הראשונה נעולים בהסכמי ארגונים ולא זמינים למעבדות קטנות כדי לבצע distillation. עד שתוכלו להשתמש ב-Mythos, כבר יהיה עדכון חדש שמוגבל רק לארגונים”. הוא ממש מתאר מנגנון שחוזר על עצמו: תעשיית ה-distillation נדחקת למקום משני, והכסף נשאר בצד של מי שיש לו גישה מוקדמת ויכולת לשלם.
המירוץ בין הענקיות: מודלים ענקיים מול “העתקה חכמה”
וזה מתחבר למה שרואים באקוסיסטם כבר זמן: מצד אחד מעבדות frontier שמפתחות את המודלים הגדולים והחזקים ביותר. מצד שני חברות כמו Aisle, שמסתמכות על שילוב מודלים, ומסתכלות על מודלי קוד פתוח, לעתים ממקומות שונים בעולם, כדרך לקבל יתרון כלכלי באמצעות distillation.
השנה נראה שגם הגבולות נהיו קשוחים יותר. אנטרופיק אפילו חשפה ניסיונות של חברות סיניות, לפי הטענה שלה, להעתיק את המודלים שלה. בנוסף, שלוש מעבדות מובילות: אנטרופיק, גוגל ו-OpenAI, חברו כדי לזהות מפיצי distillation ולחסום אותם, לפי דיווחים פנימיים בתעשייה.
אז האם Mythos מסכן את האינטרנט?
האם Mythos או מודל חדש באמת מאיים על אבטחת האינטרנט? עוד מוקדם לדעת. אבל אם יש משהו ששווה לקחת ממנו צעד אחורה: שחרור מדורג וזהיר יכול להיות פתרון אחראי גם כשיש יכולות חזקות מדי. אנטרופיק לא ענתה בפירוט לגבי האם ההחלטה קשורה גם לדאגות סביב distillation, אבל כן אפשר להבין איך שני הדברים יכולים לחיות ביחד: הגנה על תשתיות, וגם שמירה על יתרון עסקי.
בקיצור: אולי זה “רק סייבר”. אבל בעולם של מודלים ענקיים, גם סייבר הוא לפעמים שפה של חוזים.
