OpenAI הכריזה על תכונה חדשה בשם Lockdown Mode, שמטרתה אחת: לצמצם את הסיכון שצ’אטבוט ייפול לprompt injection. בואי נגיד את זה בעברית של סבתא: מישהו יכול להחביא הוראות זדוניות בתוך דף אינטרנט, קובץ או תוכן אחר, ואז המערכת בטעות “תאמץ” את ההוראות האלה כאילו הן שלך. וזה כבר לא רק ויכוח על ניסוח, זה עלול להשפיע על התשובה ואפילו על דליפת מידע רגיש.
מה Lockdown Mode עושה בפועל? כאן זה נהיה טכני אבל מעניין. התכונה מכבה כמה יכולות שעשויות להגדיל את משטח התקיפה. בין היתר, היא משביתה גלישה חיה ברשת. במצב הזה, הצ’אט יכול לעבוד רק עם תוכן שמופיע במטמון (cached), כלומר פחות “אוכל מידע חדש בזמן אמת” ויותר שליטה במה שהוא רואה.
בנוסף, Lockdown Mode מגביל אחזור והצגה של תמונות מהאינטרנט. כן, עדיין אפשר לייצר תמונות דרך המערכת, אבל לא למשוך אותן ישירות ממקורות רשת בצורה שמציגה אותן בתוך התהליך.
עוד כיבוי חשוב: Deep Research ו-Agent mode. אם אתם לא חיים בתוך זה כל יום, תרגום חופשי: פחות “חוקר עצמאי” שמסתובב ומרכיב תשובות בעצמו, ויותר עבודה בצורה מצומצמת ומבוקרת.
אבל רגע, זה לא קסם. גם עם Lockdown Mode עדיין יש סיכון
OpenAI מדגישה משהו די חשוב: גם כשהמצב הזה פעיל, עדיין ייתכן ש-ChatGPT יהיה חשוף ל-prompt injections. הסיבה פשוטה: התקפה לא חייבת להגיע רק מדף אינטרנט בזמן אמת. היא יכולה להופיע גם בתוכן שמור במטמון או בתוך קובץ שהועלה. במילים אחרות: אם ההוראות הזדוניות כבר “נכנסו” לתוך הנתונים שהמערכת משתמשת בהם, הן עדיין יכולות להשפיע על ההתנהגות או על הדיוק של התשובה.
אז מה המטרה האמיתית? לצמצם סיכוי לדליפה
Lockdown Mode לא מבטיח 100% חסינות. המטרה היא הרבה יותר פרקטית: להקטין את הסבירות שמידע רגיש ייחשף או יישלח הלאה דרך מנגנונים שמושפעים מהזרקות פרומפטים. זה כמו להחליף מנעול לדלת: לא מבטיח שאף אחד לא ינסה, אבל מקטין משמעותית את הסיכוי שיפרצו בקלות.
למי זה מיועד?
OpenAI גם אומרת את זה די ישר: Lockdown Mode לא בשביל כולם. הוא מכוון לאנשים וארגונים שמטפלים בנתונים רגישים ורוצים הגנה מחמירה מפני סיכוני exfiltration שקשורים להזרקות פרומפטים. כלומר: פחות “בוא נבדוק איך זה מגיב”, יותר “יש פה מידע שצריך לשמור עליו כמו שצריך”.
זמינות: מתחילים עם ChatGPT Business
כרגע OpenAI מתחילה לפרוס את Lockdown Mode ללקוחות ChatGPT Business במודל self-serve, וגם לחשבונות אישיים מתאימים. בקיצור: לא כולם יקבלו אותו מחר בבוקר, אבל מי שצריך את זה, כנראה יקבל.
ובואו נסכם: זה לא מצב “לנעול את הדלת ולזרוק את המפתח לים”. זה מצב “לנעול את הדלת, להחליף גם את הצירים, ולוודא שהחלון לא פתוח לרחוב”. AI מתקדם, אבל אבטחה היא כבר לא תוספת. היא החלק שחייב להיות מגניב.
