שוק הבינה המלאכותית חווה בשבועות האחרונים שינוי פרדיגמה שקט אך מכריע: מרוץ ה-Pre-training שהוביל את הענף מאז השקת GPT-3 מגיע למיצוי יחסי, ומפנה את מקומו לשיטות הסקה מתקדמות המבוססות על שרשראות חשיבה (Chain-of-Thought) וחישוב מוגבר בזמן אמת.
במשך שנים, חוקרים ומנהלי מוצר התמקדו בהגדלה אקספוננציאלית של כוח החישוב ומאגרי הדאטה. אולם ככל שנתוני האימון הציבוריים באינטרנט הולכים ואוזלים, מתברר כי קפיצת המדרגה הבאה מגיעה דווקא מהאופן שבו המודל מנתח, שוקל ומבקר את תשובותיו שלו לפני שהוא פולט את התוצאה הסופית.
מעבר מזיכרון לחשיבה פעילה
ארכיטקטורות החשיבה החדשות מדגימות שיפור של עשרות אחוזים בפתרון בעיות מתמטיות מורכבות, כתיבת קוד ואופטימיזציה של תוכנה. המשמעות היא שבעתיד הקרוב לא נמדוד מודל רק על פי מהירות התגובה שלו, אלא לפי עומק החשיבה שהוא מקצה לכל משימה.
האתגר המרכזי של השנה איננו להפוך מודלים לגדולים יותר, אלא להקנות להם יכולת להבין מתי הם טועים ולתקן את עצמם תוך כדי תנועה.
עבור חברות וארגונים, מדובר בבשורה בעלת משמעות כפולה: מחד, מודלים המסוגלים לבצע משימות סוכן (Agents) בדיוק חסר תקדים; ומאידך, צורך בעדכון תוכניות הרכש ותשתיות הענן כדי להתמודד עם עלויות הסקה מוגברות.
