אם יצא לכם לגלול קצת באינטרנט בשנים האחרונות, אתם כבר מכירים את הבעיה: ספאם ובוטים לא רק שלא נעלמו, הם נהיו חכמים יותר. ועכשיו, עם מודלי שפה גדולים (LLMs) שמאפשרים לכל אחד לייצר טקסט “משכנע” תוך שניות, התעבורה הזדונית נהיית קלה להפליא. אז מה עושים? פשוט מגיבים באותה שפה טכנולוגית. Reddit אומר שהוא משתמש ב-LLMs כדי לצמצם ספאם, והרבה מהספאם הזה נוצר מלכתחילה בעזרת AI.
ספאם נהיה מהיר יותר. גם ההגנה צריכה להיות
במילים פשוטות: פעם מערכות סינון הסתמכו על כללים יחסית גסים. אבל כשספאמרים מתחילים לכתוב הודעות שנשמעות טבעיות, עם וריאציות אינסופיות, הכללים הישנים מפספסים. Reddit טוענת שהיא פיתחה כלים שמבוססים על LLMs כדי לזהות דפוסים “עדינים” של התנהגות מזויפת, וגם רעש שיווקי מלאכותי שמתוזמר בצורה מתואמת. זה לא רק לזהות מילה מסוימת, אלא לראות את התמונה הגדולה: מי מתנהג כמו בוט, איך זה חוזר על עצמו, ומתי זה נראה כמו גל יחסי ציבור מזויף.
המספרים: כמה ספאם עובר וכמה היא חוסמת
Reddit מציגה נתונים די ברורים: היא חוסמת כ-23 מיליון צפיות ספאם בכל יום. בנוסף, בכל יום היא מצליחה לזהות בערך 25,000 פוסטים ותגובות חדשים שמוגדרים כספאם. זה נשמע כמו ים של טקסט, כי זה באמת ים.
החלק המעניין יותר הוא היעילות: החברה טוענת שבין ינואר למרץ היא הצליחה להפחית את החשיפה של משתמשים לספאם ב-20% לעומת שלושת החודשים שלפני. כלומר, לא רק שהיא “עוד חוסמת”, אלא שהחסימה השתפרה.
האם אפשר לעצור ספאם רק עם AI?
כמובן שהסיפור לא נגמר ב-LLMs. בעולם של מודרציה, יש הבדל ענק בין לזהות אוטומטית לבין לקבל החלטה סופית. אם פלטפורמות מצליחות לזהות תוכן שנוצר על ידי AI מהר יותר, זה גם יכול לעזור להרים דגלים מהר יותר לתוכן בעייתי כמו שיח שנאה. אבל עדיין יש מכשול קלאסי: AI לבד עלול לטעות, והטעויות האלה יכולות להיות יקרות.
לכן, גם כשמשתמשים בכלים חכמים, ההמלצה נשארת אותה המלצה של כולם שחיים את זה יום-יום: מודרציה אפקטיבית דורשת שילוב של אוטומציה עם פיקוח אנושי. AI יכול לתפוס מהר, בני אדם יכולים להחליט נכון כשצריך.
האירוניה של עידן ה-AI
יש פה אירוניה קטנה: פלטפורמות נאלצות להילחם בספאם שנכתב בעזרת AI באמצעות AI. זה כמו שמישהו ימציא מכונת גלים, ואז יבקש ממנה להציף פחות. אבל זו המציאות: כשכלי היצירה מתעצמים, גם כלי הסינון חייבים להתקדם. ובינתיים, Reddit לפחות מנסה להראות שהיא לא נשארת מאחור.
