דמיס האסביס, המנכ"ל של DeepMind, יצא השבוע לקריאה לא ממש שגרתית: להקים גוף תקנים עצמאי שיפקח על שחרור מודלים מהדור החדש של ה-AI, כאלה שמוגדרים כ"Frontier". במילים פשוטות: פחות הפתעות, יותר סטנדרטים ברורים לפני שמודל חזק יוצא לשוק. כי כרגע, בעולם הזה, כולם רצים מהר מאוד, ולפעמים לא ברור מי בודק עד הסוף ומתי.
בהודעה שפרסם ברשת, האסביס הציע מסגרת בשם "A Framework for Frontier AI and the Dawning of a New Age". הרעיון המרכזי הוא גוף בסגנון FINRA, ארגון שמוכר מתחום הפיקוח הפיננסי: גוף בודק, מגדיר נהלים, ומוודא שחברות עומדות בכללים לפני שהן משחררות מוצר לציבור.
מה בדיוק הגוף אמור לעשות?
לפי ההצעה, בהתחלה חברות שיפתחו מודלים כמו Frontier Labs ישתפו אותם עם גוף התקנים לצורך בדיקה מרצון, עד 30 יום לפני שחרור. כן, חודש שלם של זמן בדיקה. המטרה היא לתת למישהו חיצוני, עם פרוטוקולים מסודרים, להגיד: זה עבר את המבחנים, או שצריך עוד עבודה.
אם יתברר שהמסלול הזה אפקטיבי וחזק מספיק, אז אפשר להפוך את זה לדרישה פורמלית: מודלים יצטרכו לעבור את הפרוטוקול הזה כדי שיוכלו להיפרס בשוק האמריקאי. בנוסף, החברות יעבדו עם אותו גוף כדי לטפל בחולשות קריטיות שיתגלו אחרי השחרור. כי ברור לכולם: גם אחרי בדיקות, העולם האמיתי תמיד מוצא תרחישים שלא חשבת עליהם.
למה בכלל צריך רגולטור כזה?
ההצעה באה על רקע ביקורת על בדיקות ממשלתיות שנעשו בעבר למודלים של Anthropic ושל OpenAI. שם עלו טענות לא רק לגבי היעדר עומק טכני בהחלטות, אלא גם לגבי שקיפות סביב השאלה מתי מודל מקבל אור ירוק לשחרור. כלומר: אנשים לא ידעו מה הקריטריונים, ומרגיש כמו קופסה שחורה.
האסביס רוצה להוציא את ההחלטות האלה מהאזור האפור הזה ולהעביר אותן לארגון חדש. אותו גוף ייתמך על ידי הממשלה האמריקאית, אבל ימומן גם על ידי תעשיית ה-AI, ויופעל באופן עצמאי. המטרה: לשמור על יכולת בדיקה מקצועית, בלי שהכל יישאר רק בתוך ידיים ממשלתיות או רק בתוך חברות הפיתוח עצמן.
ומה לגבי המחלוקת הפוליטית?
רגולציה על AI היא נושא רגיש מאוד, גם בתעשייה וגם בפוליטיקה. לאחרונה, יועץ AI בבית הלבן, סרירם קרישנן (שגם מזוהה כשותף כללי ב-a16z), ביטל את הרעיון של רגולטור בתוך זרוע ביצועית ואמר משהו בסגנון: לא יהיה מעין "FDA ל-AI". כלומר, לא רוצים להפוך את זה למשהו בירוקרטי שמאט את כל המערכת.
לכן, גוף תקנים עצמי בסגנון FINRA עשוי להיות פתרון ביניים: פיקוח עם שפה טכנית, אבל בלי להפוך את זה למכונת רישוי איטית. האסביס טוען שהגישה הזאת תהיה ממוקדת טכנולוגית, ועדיין תעודד חדשנות ותיצור תמריץ להתנהגות אחראית.
מי יעבוד שם? ואיך זה יישאר מעודכן?
האסביס מדמיין צוות שמשלב נציגים מארגוני קוד פתוח ומומחים טכניים מהתעשייה, יחד עם גב כלכלי מהמעבדות שיאפשר להחזיק את הצוות לאורך זמן. הוא אפילו מציע שאפשר יהיה להאציל חלק מההערכות לקבוצות בטיחות AI שקמות בקצב מהיר, כאלה שמתמחות בסיכונים ספציפיים.
הטענה שלו די ברורה: השדה של ה-AI מתקדם מהר, אז גם הפיקוח צריך להאיץ, להסתגל לסיכונים הכי גדולים שמזוהים בזמן אמת, ואפילו להקשיח את הדרישות אם המצב נהיה רציני יותר. במילים של חנון גאה: לא צריך רק "בדיקה", צריך מערכת בדיקה שמסוגלת ללמוד ולשדרג.
בקיצור, זו לא הצעה של עוד רגולציה שמטילה מגבלות סתמיות. זו הצעה לבנות מנגנון בדיקה סטנדרטי לפני שחרור, ואז גם דאגה לחולשות אחרי ההשקה. וזה, אם חושבים על זה, נשמע כמו הדבר היחיד שאפשר לעשות כדי שהעתיד לא יתפרץ לנו לפרצוף עם פאקינג באג.
