טכנולוגיה

האם חברות AI יאהבו דגמים זולים יותר? 80% מהעומס בדרך לשם

הנחת היסוד של “יותר גדול תמיד יותר טוב” מתחילה להישבר, והחשבונות מתחילים לכאוב

4 דקות קריאה 21
בהתאם לסעיף 27 לחוק זכות יוצרים, תשס"ח-2007 (שימוש הוגן לצרכי דיווח ותוכן עיתונאי)

בום ה-AI של השנים האחרונות נבנה על רעיון די פשוט: אם המודל גדול יותר, הוא חזק יותר, ומי שיש לו את הדגם הכי מתקדם מנצח. זה כמו לקנות מחשב נייד: כולם רצו את זה עם המעבד הכי מפלצת, ואז מגלים שהכרטיס אשראי לא אוהב פיצ’רים.

עכשיו מתחיל תרחיש שעשוי להפוך את כל המשחק: חברות מתחילות לשקול מודלים זולים יותר, לא כי הן פחות טובות, אלא כי פשוט חייבים. עלויות תשתית כבר דחפו משתמשים לבדוק פתרונות קטנים יותר, וזה שינוי חדש. השאלה הגדולה היא איך זה ישפיע על כל התעשייה, כי כנראה שלא מדובר בעוד “עוד עדכון גרסה”.

התחזית שמטלטלת את השוק

אחד הקולות הבולטים שמדברים על זה הוא בריאן ארמסטרונג, מייסד Coinbase. הוא טען שתוך 12 עד 18 חודשים, רוב עצום מהעבודה תרוץ על מודלים זולים בהרבה: בערך 80% מהעומסים יעברו ל-99% מהמודלים הזולים יותר. ורק כ-20% יישארו על דגמים מהדור האחרון, במקומות שבהם “מקסימום אינטליגנציה” באמת קריטי.

אם זה יקרה, ההשלכות יהיו דרמטיות. עד היום רוב חברות ה-AI התחרו בעיקר על איכות. כלומר: אם יש מודל מתקדם יותר, פשוט שמים אותו כברירת מחדל. אבל אם משימות רבות אפשר לבצע על מודל זול יותר בלי לפגוע באיכות, זה משנה את הכלכלה של AI מהיסוד: פחות הוצאות על אינפרנס, פחות כסף זורם למעבדות הגדולות, ויותר לחץ דווקא על מי שמתקרבים להנפקות ומנסים להראות צמיחה רציפה.

האם איכות באמת נשארת? ניסויים מתחילים לענות

הסימנים הראשונים נראים לא רע. יש בדיקות שמראות שמודל זול יותר יכול להיכנס במקום של היקר, כל עוד מתכננים את המערכת נכון. למשל, בכלי AI משפטי בשם Harvey הצליחו להוריד את עלויות האינפרנס פי 3 בלי לפגוע באיכות.

הניסוי נעשה בשיתוף עם פלטפורמת האינפרנס Fireworks AI. השילוב היה בין Claude Opus לבין GLM 5.1 של Fireworks, כאשר את המשימות הכבדות יותר העבירו ל-Opus. התוצאה: פחות עומס על השרתים ופחות עלות כוללת.

גאבה פריירה, מייסד Harvey, ניסח את זה הכי פשוט: איכות היא קודם כל. אבל ההגדרה שלה משתנה. פעם “איכות” הייתה להשתמש במודל הכי חזק לכל דבר. היום איכות יכולה להיות: למצוא את המודל הכי נכון שמביא את התשובה הנכונה בצורה יעילה ביותר, לא בהכרח הכי יקר.

הפער האמיתי: לא בין “סגור” ל“פתוח”

הרבה פעמים אנשים מדברים על זה כמאבק בין מעבדות ענק לבין מודלים מסין, או בין מודלים סגורים למודלים עם משקולות פתוחות. אבל בגדול, זה מפספס את הנקודה: ההבדל המרכזי הוא בין מודלים גדולים לבין מודלים קטנים. כן, אפשר לחסוך כסף כשעוברים מ-GPT-5.5 למשהו כמו V4 Flash של DeepSeek. אבל אפשר גם להגיע לתוצאה דומה בעבודה רבים כשעוברים ל-GPT-5.4-mini. במילים אחרות: לא חייבים לנצח “במי הכי גאון”. מספיק לבחור “מי מספיק טוב”.

מלחמת מחירים: מי נותן את האינפרנס בזול יותר

בשטח כבר מתנהלת מלחמת מחירים: מצד אחד אינפרנס שמופעל פנימית אצל מעבדות גדולות, ומצד שני מודלים פתוחים שמוגשים באופן עצמאי. ובכל זאת, כשמדברים על השאלה הגדולה של קטן מול גדול, לא משנה מי מנצח את הוויכוח הספציפי על סוג הדגם. מה שחשוב הוא שהמחיר והיעילות מתחילים להכריע.

הבעיה: אולי פשוט יקראו פחות מודלים, לא יעברו לדגמים קטנים

זה נשמע ברור: אל תשתמש בכוח מחשוב יותר מהנדרש. אבל זה הפוך מהגישה ששלטה עד עכשיו, שבה כולם דוחפים את המודלים הכי כבדים שאפשר, כי משקיעים מימנו את ההרפתקה. כשהמחירים לא מסובסדים יותר, המשתמשים מרגישים את זה בכיס.

ועדיין, אי אפשר לדעת אם זה באמת יגרום לארגונים לעבור למודלים קטנים. אולי הם רק יקטינו מספר פניות, ישתמשו בפחות הקשר, או יוותרו על פריסות פחות מבטיחות. מצד שני, אם יתברר שרוב המשימות באמת עובדות באותה רמה גם על מודל קטן, זה יכול להאט ביקוש לאינפרנס ולהציף שאלות חדשות על איך בכלל מצדיקים את העלות של אימון מודל “פרונטיר” ענק.

בקיצור: ה-AI לא בהכרח נעשה פחות חכם. הוא פשוט לומד לחסוך. וזה, כמו כל דבר בישראל, אומר שהוא כנראה גם ימצא דרך להיות יעיל יותר וגם להישמע פחות דרמטי.

שתף: WhatsApp Facebook X

שאלות נפוצות

מי טען שרוב העבודה תעבור למודלים זולים יותר תוך זמן?
בריאן ארמסטרונג, מייסד Coinbase. הוא העריך שתוך 12 עד 18 חודשים רוב העבודה תעבור למודלים זולים יותר, כך שכ 80% מהעומסים יהיו על 99% מהמודלים הזולים.
איך Harvey הראה שמודל זול יותר יכול להוזיל עלויות?
בכלי AI משפטי בשם Harvey, בשיתוף Fireworks AI. המשימות הכבדות עברו ל Claude Opus, ואת השאר ביצעו עם GLM 5.1 של Fireworks. לפי הכתבה, הצליחו להוריד את עלויות האינפרנס פי 3 בלי לפגוע באיכות.
מה עשוי לעצור מעבר רחב למודלים קטנים גם אם הם זולים?
אי ודאות האם ארגונים באמת יעברו לדגמים קטנים. לפי הכתבה, ייתכן שהם רק יקטינו מספר פניות, יפחיתו שימוש בהקשר, או יוותרו על פריסות פחות מבטיחות. מנגד, אם רוב המשימות יעבדו דומה, הביקוש לאינפרנס יכול להשתנות.
שתפו את הכתבה