בוא נתחיל מהמסקנה: המרוץ אחרי ״המודל הכי גדול״ מתחלף במרוץ אחר ״הצוות הכי טוב״. במקום מוח ענק אחד שאמור לדעת הכול ולפעמים ממציא, הכיוון הוא כמה סוכני AI קטנים וממוקדים שעובדים יחד בלולאה, כל אחד עם תפקיד, ומאמתים זה את זה עד שנשארת תשובה שאפשר לסמוך עליה.

מה זו הזיה (hallucination), ולמה מודל בודד ממציא

הזיה היא תשובה שנשמעת נכון לחלוטין ופשוט לא קיימת: ציטוט מומצא, מספר שגוי, מקור שלא נכתב מעולם. הסיבה נעוצה באיך שמודל שפה עובד, הוא מנחש את המילה הבאה על סמך הסתברות, בלי מנגנון מובנה שבודק אם מה שיצא נכון. וגרוע מכך: הוא ״בטוח בעצמו״ באותה מידה גם כשהוא צודק וגם כשהוא ממציא. מעבר אחד של מודל בודד הוא, בבסיסו, ניחוש משכנע.

מה זו מערכת רב-סוכנית (סימפוניית הסוכנים)

מערכת רב-סוכנית היא ארכיטקטורה שבה מפרקים משימה בין כמה סוכני AI ממוקדים, כל אחד עם תפקיד, במקום להעמיס הכול על מודל אחד. כמו תזמורת עם מנצח, או חדר חדשות עם עורכים:

  • חוקר (Retriever), מביא מקורות אמיתיים מהאינטרנט או ממאגר, במקום להסתמך על הזיכרון של המודל.
  • מנסח (Maker), כותב טיוטת תשובה על בסיס המקורות שנאספו.
  • מבקר (Critic), מאתגר: איפה זה לא מגובה, איפה יש סתירה, מה חסר.
  • מאמת (Verifier), מצליב כל טענה מול המקור ומסמן מה מחזיק ומה נופל.
  • מתזמר (Orchestrator), מנהל את הצוות ומחליט מתי התשובה בשלה לצאת.

הלב של העניין — הלולאה

מה שהופך את זה מ״כמה מודלים בשורה״ למערכת שבאמת עובדת הוא המילה לולאה. הצוות לא רץ פעם אחת: המבקר מחזיר את הטיוטה למנסח, המאמת דורש מקור נוסף, המנסח מתקן, וחוזר חלילה, עד שהתשובה מתייצבת ואין יותר מה לתקוף. כל סבב מהדק. תשובה ששרדה חמישה סבבים של ביקורת ואימות רחוקה מאוד מניחוש חד-פעמי.

איך הלולאה מחסלת הזיות

הלולאה לא ״מקווה״ שהמודל צודק, היא בונה מנגנונים שתוקפים כל טענה. אלה הכלים המרכזיים:

  • עיגון במקורות (RAG), שליפת מקור אמיתי לפני המענה, כך שהתשובה נשענת על מסמך ולא על זיכרון מעורפל.
  • אימות יריב (adversarial verification), סוכן שכל תפקידו לנסות להפריך; טענה בלי גיבוי לא שורדת.
  • עקביות עצמית (self-consistency), לשאול את המודל כמה פעמים ולקחת את התשובה שחוזרת, במקום את הראשונה שיצאה.
  • ויכוח רב-סוכני (debate), שני סוכנים מתווכחים על התשובה, וסוכן שלישי מכריע.
  • רפלקציה (reflection), המודל עוצר, בודק את עצמו, ומתקן לפני שהוא עונה.

הרעיון המשותף לכולם זהה: לא לסמוך על התשובה הראשונה, אלא לתקוף אותה עד שמה שנשאר הוא מה שבאמת מגובה.

למה זה הכיוון, ולא עוד גל שיחלוף

שלוש סיבות, וכולן מעשיות ולא אופנתיות. ראשית, עלות הבינה צנחה, אפשר להריץ חמישה סבבי אימות במחיר שפעם היה אסור להריץ בו מעבר אחד. שנית, הדרישה לאמינות: ארגון לא יכניס AI לתהליך אמיתי אם הוא ממציא אחת לעשר. שלישית, הגדלת מודל בודד נתקלת בתשואה פוחתת, בעוד שתזמור סוכנים ממשיך להשתפר. במילים אחרות, קל וזול יותר לבנות צוות טוב מאשר גאון בודד מושלם.

איפה זה עדיין נשבר

שלא יהיה ספק, זה לא קסם. ללולאות יש מחיר: יותר חישוב ויותר זמן תגובה. סוכנים יכולים ״להסכים״ על אותה טעות אם כולם ניזונים מאותו מקור שגוי, מקור זבל בכניסה נשאר זבל ביציאה. והתזמור עצמו מסובך: ככל שיש יותר סוכנים, כך גדל הסיכוי שמשהו ישתבש בהעברה ביניהם. מערכת רב-סוכנית טובה מפחיתה הזיות בגדול, אבל לא מאפסת אותן.

מה זה אומר אם בונים או קונים AI

השאלה הנכונה משתנה. במקום ״כמה גדול המודל״, שווה לשאול ״איך המערכת מאמתת את עצמה״: האם היא מעגנת תשובות במקורות, האם יש שלב ביקורת ואימות נפרד, האם היא מראה על מה היא נשענת, ומי שולט ברמת האוטונומיה שלה. מערכת שמנחשת במעבר אחד תיראה מרשימה בהדגמה ותאכזב בייצור. מערכת שמאמתת בלולאה תיראה פחות מרשימה בהדגמה, ותחזיק בעולם האמיתי.

מודל בודד עונה בביטחון. צוות סוכנים עונה אחרי שכל אחד מהם ניסה להוכיח שהשני טועה. ההבדל ביניהם הוא ההבדל בין ניחוש לבין תשובה.

איך זה נראה ב-HELIX

אנחנו בנויים בדיוק על העיקרון הזה. כל מוצר HELIX הוא מחלקה של סוכנים שעובדים בלולאה, חוקר, מבצע, מבקר ומתזמר, ולא מודל בודד שיורה תשובה. וכדי לשמור על היד על ההגה, מעל כל הסימפוניה יושב מתג אוטונומיה בשלוש רמות: מציע, מאשר, אוטופיילוט. זו אותה סימפוניה שהתעשייה מתכנסת אליה, רק שאצלנו היא כבר בתוך המוצר.

הכיוון ברור: פחות ״מוח ענק אחד״, יותר צוות סוכנים שמאמת את עצמו בלולאה. מי שמבין את זה עכשיו, בונה מערכות שאפשר לסמוך עליהן כשזה יהפוך לסטנדרט.