כולם מדברים על AI, אבל עכשיו כולם גם מדברים על אבטחה. לא בצורה האקדמית של "נדאג לזה בהמשך", אלא ממש תוך כדי ריצה. אפילו בגוגל, שמכירה את המשחק מקרוב, מודים שבפועל זה עדיין בתהליך. בקטע שנשמע כמו שיחה בחדר ישיבות אבל עם רוח של הרצאה, פרנסיס דה סוזה, COO של Google Cloud, אמר שהמעבר הזה ייקח זמן ואז כולם יגיעו למקום טוב יותר. בינתיים: אין תירוצים.
אבטחה לא מדביקים אחרי: צריך גישה של פלטפורמה
המסר שלו היה זהה למה שאנשי אבטחה ניסו להכניס לראש של מנהלים במשך שנים, אבל עכשיו זה בוער מהר יותר בגלל AI. החלק החשוב: לא לחשוב שאפשר להוסיף אבטחה בסוף הפרויקט. הוא דיבר על גישה של platform approach: שהאבטחה, הממשל והיכולת לבצע audit יהיו מובנים מההתחלה, ולא משהו שהעובדים "יסתדרו" איתו.
והוא גם סימן סכנה קלאסית בעולם ה-AI: shadow AI. כלומר עובדים שמוצאים כלים צרכניים או שירותים בלי שליטה ארגונית, מחברים נתונים ועוברים הלאה. ברגע שזה קורה, אין לך באמת מושג מה נכנס, מי נגע, ומה נשאר. ואז, כמובן, מישהו בא ומגלה ש"לא ידענו".
גם מי שחושב שהוא בענן אחד, כנראה לא
דה סוזה לא מכר את זה כמשהו בלעדי של Google Cloud. הוא טען שארגונים חיים במציאות של multi cloud גם אם הם בוחרים ענן אחד. למה? כי משתמשים ב-SaaS, יש שותפים עסקיים, ויש אינטגרציות. התוצאה: צריך posture אבטחתי עקבי בין עננים ובין מודלים.
וזה נהיה חשוב עוד יותר כי נוף האיומים השתנה בצורה דרמטית. פעם היית מתבצר סביב ה-perimeter של הרשת. היום יש הרבה יותר שטח תקיפה: מודלים עצמם, צינורות נתונים שמאכילים את המודלים, סוכנים, פרומפטים, וכל מה שמאפשר ל-AI לעשות דברים.
הסכנה החדשה: סוכנים שמוצאים מידע ששכחתם
נקודה שהוא העלה ולא מקבלים עליה מספיק פוקוס: סוכנים שמסתובבים בתוך המערכות של החברה יכולים לחשוף מאגרי מידע ישנים שאף אחד לא חשב עליהם שנים. למשל שרתי SharePoint ישנים עם הרשאות שלא עודכנו. פעם זה לא שינה כי אף אחד לא ידע שהם שם. עכשיו, אם סוכן מקבל גישה ומחפש, הוא יכול למצוא את הנכסים האלה ולהוציא מהם מידע.
הפתרון: להילחם במהירות של מכונות
כאן מגיע החלק ה-AI-native: לדבריו, מתחילה להתגבש הגנה שהיא יותר אוטומטית וagentic, כזו שמריצה סוכנים שמנהלים את ההגנה. הרעיון הוא לא רק human-led defense או אפילו human-in-the-loop, אלא מצב שבו בני אדם מפקחים על מערך הגנה שמבוסס סוכנים.
אבל הוא זרק גם הערת הנהלה חדה: זה לא רק עניין של צוות אבטחה. זו בעיית הנהלה ודירקטוריון. כי אם זה לא מקבל עדיפות ארגונית, זה נשאר עוד מצגת PowerPoint.
ובינתיים: יש פער בין מה שמבטיחים לבין מה שקורה בפועל
כאן נכנס החלק המטריד. בזמן שכולם מתווכחים על מדיניות, בעולם האמיתי מפתחים נופלים על חשבונות ענק אחרי שימוש לא מורשה בממשקי API. היו מקרים שבהם מפתחות API שנועדו לשירותים אחרים קיבלו יכולות גישה גם למודלים של Gemini אחרי הרחבת היקף, בלי שהשינוי הובהר בצורה מספקת למשתמשים. יש מפתחים שגילו חיובים של עשרות אלפי שקלים אחרי דקות ספורות, גם כשחשבו שהגדרת הוצאה מקסימלית קיימת.
יותר מזה: אפילו כשמישהו ניסה לעצור את זה, לא תמיד זה נגמר מיד. במחקר בתחום זוהה מצב שבו ביטול מפתח לא מתפשט מיידית בכל התשתית, ולכן התוקפים יכולים להמשיך להשתמש בו חלון זמן של עד בערך 23 דקות. בתוך החלון הזה שיעורי הבקשות המאומתות יכולים להישאר גבוהים, ויש זמן אמיתי להוציא קבצים או להוציא נתונים שמורים משיחות.
הטוויסט הישראלי פה הוא פשוט: זה לא אומר שאין פתרון הנדסי. זה אומר שכנראה לא תמיד נותנים לו עדיפות מספקת מול דברים אחרים כמו מניעת השבתות.
אז מה לוקחים מזה?
העצה של דה סוזה נכונה, אבל היא מגיעה עם כוכבית גדולה: ארגונים לא חיים רק לפי ההנחיות, אלא לפי קצב האימוץ של הפלטפורמות עצמן. ב-AI אבטחה, הפער בין "אנחנו נעדכן" לבין "זה כבר קרה" הוא כל הסיפור. ואנחנו עדיין בשלב שבו כולם לומדים תוך כדי, לפעמים על חשבון חשבון הבנק.
