תגית: קוד פתוח

החברה Zellige AI הציגה את Tessera-27B-B-CJK, מודל שפה פתוח בגודל 27 מיליארד פרמטרים שמבוסס על Qwen ומופץ ברישיון Apache-2.0. לפי החברה, המודל חושב בשפה מעורבת ומקוצרת, שבה מילים, תווים וסמלים סיניים, יפניים וקוריאניים (CJK) מכווצים את ייצוג החשיבה הפנימי שלו.

הדיון בקהילת LocalLLaMA ב-Reddit הוא המקום שבו הופיעה ההכרזה על המודל, וכותרת הפוסט מציינת את שם הפרויקט ואת הבסיס שממנו נבנה:

הרעיון המרכזי הוא חיסכון בטוקנים. לפי מדידות החברה, המודל משתמש בכ-50 עד 64 אחוז מטוקני החשיבה של המודל הבסיסי בכל תור של סוכן קוד. המדידה נערכה על 44 מצבים מוקפאים מ-11 משימות, שלא שימשו באימון או בבחירת המודל. מדובר במדידה שהחברה ערכה בעצמה, ולכן כדאי לקרוא את המספרים כטענה של המפרסם ולא כבנצ'מרק עצמאי.

למה זה משנה למי שעובד עם סוכנים? מי שמפעיל סוכני קוד על חומרה מקומית משלם בזמן מחשוב ובזיכרון על כל טוקן של חשיבה. מודל שחושב בפחות טוקנים יכול להפחית עלויות ולהאיץ תגובות, בתנאי שהאיכות נשמרת. זו בדיוק הנקודה שהחברה טוענת לגביה.

יש גם מחיר. לפי הנתונים שפרסמה החברה, המודל נחלש לעומת הבסיס במתמטיקה ובקוד תחרותי, ונוטה ללולאות, כלומר לחזור על עצמו במקום להתקדם. בבדיקה במתמטיקה ובקוד תחרותי פתר 87 מתוך 118 פריטים, לעומת 98 של הבסיס. חיסכון בחשיבה עלול לעלות דווקא במשימות שדורשות שרשרת חישובים ארוכה.

המודל זמין להורדה ב-Hugging Face, והחברה מפרסמת את הממצאים שלה בדף המחקר שלה. מי שרוצה לבדוק את הטענה צריך להשוות את המודל למודל הבסיס על המשימות שלו עצמו, ולא להסתפק בטבלאות של המפרסם.

מקורות:
Zellige AI, דף המחקר: https://zellige.ai/research/tessera-27b-b-cjk
Hugging Face: https://huggingface.co/ZelligeAI/Tessera-27B-B-CJK
Reddit, r/LocalLLaMA: https://reddit.com/r/LocalLLaMA/comments/1x5xm28/tessera27bbcjk_zellige_ais_new_finetune_of_qwen

עדכון 15.10.2026, 21:05 (שעון ישראל)

עדכון: מה Apple מוסיפה לסיפור

Apple פרסמה נתוני הרצה של Muse Spark Open על חומרה שלה. הפרסום הרשמי הוא מחקר על הפצת ההסקה על פני כמה מחשבים בספריית MLX של Apple. לפי הפוסט, על אשכול של ארבעה Mac Studio עם שבבי M5 Ultra המודל מייצר יותר מ-36 טוקנים בשנייה בשלב יצירת הטוקנים, בהקשר של 8,192 טוקנים.

הציוץ המוטמע למטה הוא של מארק צוקרברג, מנכ"ל Meta. הוא כתב שמשקלי המודל משתחררים היום, ושהמודל "רץ טוב" על Mac Studio חדשים, בזכות עבודה משותפת עם Apple. זו טענה של Meta על השחרור. הנתונים הטכניים נמצאים בפוסט של Apple.

מה שהפוסט של Apple מאשר: הרצה של המודל על Mac Studio עם שבבי M5 Ultra, בתצורת אשכול של ארבעה מחשבים, והזכרה של פורמט הכיווץ NVFP4. על מחשב בודד עם 512GB זיכרון המודל אינו נכנס, ולכן נדרש חיבור בין כמה מחשבים. מה שלא נכלל בפוסט הרשמי ולכן לא נכתב כאן: פרטי חומרה ורישיון שפורסמו בדיווחים משניים. אלה יתווספו רק אחרי שייבדקו במקור.

המשמעות לקורא: עד עכשיו הרצה של מודל בגודל כזה דרשה בדרך כלל תשתית ענן. נתוני Apple מראים שהרצה מקומית על חומרה צרכנית-מתקדמת אפשרית, אם כי באשכול של כמה מחשבים ולא במכשיר בודד. הנתונים הם של Apple עצמה, ולא של צד בלתי תלוי, ולכן כדאי לקרוא אותם כטענה של החברה עד שייבדקו בנפרד.

מקורות: הפוסט הרשמי של Apple על הפצת הסקה ב-MLX (https://machinelearning.apple.com/research/mlx-distributed-inference); הציוץ המוטמע ב-X (https://x.com/finkd/status/2110778025629347999).

מטא הודיעה על שחרור משקולות פתוחים של Muse Spark Open, מודל שפה בגודל 816 מיליארד פרמטרים, מתוכם כ-42 מיליארד פעילים בכל שלב עיבוד, עם הקשר של מיליון טוקנים. לפי מטא, המודל מיועד בעיקר להרצה מקומית על מחשב Mac Studio עם שבב M5 Ultra ובעזרת מסגרת העבודה MLX של Apple.

הפוסט של מארק צוקרברג ב-X הוא המקור המרכזי לשחרור. בפוסט עצמו נכתב שהמשקולות משתחררות היום, וששיתוף הפעולה עם ג'ון טרנוס ו-Apple מאפשר להריץ את המודל היטב על Mac Studio חדשים. הפרטים הטכניים שלהלן, כמו גודל המודל, מספר הפרמטרים הפעילים, אורך ההקשר ותמיכת החומרה, מיוחסים למטא ולא נבדקו באופן עצמאי.

פתוח לא אומר הכי חזק

ההבחנה החשובה בהכרזה היא בין שני מודלים. Muse Spark Open הוא המודל שמטא משחררת לציבור כמשקולות פתוחים, וכך כל מי שיש לו חומרה מתאימה יכול להריץ אותו אצלו. Muse Wonder, לפי מטא, הוא המודל החזק יותר של החברה, והוא נשאר סגור ולא משתחרר.

השוואות הביצועים בין המודלים, ובינם לבין מודלים אחרים, הן של מטא עצמה ולא של גורם עצמאי. לכן כדאי לקרוא אותן כטענות של החברה, לא כמדידה מאומתת.

למה זה מעניין את הקורא

שחרור של מודל כה גדול להרצה על חומרה שמשתמש פרטי או ארגון קטן יכולים להרשות לעצמם הוא צעד שונה ממודלים שרצים רק בענן. מטא ממקדת את ההכרזה בהרצה מקומית, ובכך מציעה חלופה לשימוש דרך שירותי ענן.

מה שעדיין לא ברור מהחומר שנבדק הוא אילו רישיונות חלים על השימוש המסחרי במשקולות, ומה הביצועים בפועל על חומרה של Mac Studio. אלה שאלות לבדיקה בשלב הבא.

מקורות:

• הפוסט הרשמי של מארק צוקרברג ב-X: https://x.com/finkd/status/2110778025629347999

חברת Ant Group, דרך זרוע המחקר והקוד הפתוח inclusionAI, פרסמה את משקולות המודל Ling-3.1-flash ברישיון MIT. הפוסט הרשמי של @AntLingAGI ב-X פורסם ב-14 באוקטובר 2026 בשעה 15:19 UTC, ודף המודל ב-Hugging Face מציין את אותו רישיון.

לפי דף המודל, מדובר במודל מיקס מומחים עם 560 מיליארד פרמטרים בסך הכול, מתוכם כ-25 מיליארד פעילים לכל טוקן, וחלון הקשר מוצהר של עד מיליון טוקנים. הדף מתעד הרצה עם SGLang ו-vLLM, כלומר מדובר במודל שאפשר להוריד ולהפעיל בתשתית עצמית. זו הפעם הראשונה שהמודל הזה נגיש לכל מי שרוצה לבדוק אותו בעצמו.

מה נבדק כאן: הרישיון, גודל המודל, חלון ההקשר המוצהר ואופן ההרצה מופיעים בדף ה-Hugging Face עצמו. מה לא נבדק: ביצועים עצמאיים. דף המודל מפרט מבחנים כמו SWE-bench Pro ו-Terminal-Bench 4.0, אך אלה הערכות של החברה עצמה, ולא מצאנו אימות מול גורם בלתי תלוי. חלון ההקשר של מיליון טוקנים הוא הצהרה של המודל, והתנהגותו בהרצה עצמאית לא נבדקה.

המשמעות: פתיחת מודל בגודל כזה היא צעד משמעותי לקהילה. אבל מספרי האיכות בכתבה הם של החברה, ומי שרוצה לבדוק את הטענות צריך לעבור לדף המודל, לבדוק את הרישיון ואת המשקולות בעצמו.

מקורות:

הפוסט הרשמי של @AntLingAGI ב-X

דף המודל ב-Hugging Face: inclusionAI/Ling-3.1-flash (רישיון MIT)

NVIDIA הודיעה שפלטפורמת Run:ai המלאה תהפוך לקוד פתוח, כחלק מפלטפורמת DSX AI Factory שלה. הקוד זמין במאגר הרשמי, וההודעה כוללת ארבעה רכיבים שאפשר לאמץ בנפרד. עבור צוותי תשתית שמריצים GPU על Kubernetes, זו הזדמנות לבחון את שכבת התזמון וחלוקת המשאבים בלי לבנות אותה מאפס.

Run:ai היא פלטפורמה לניהול עומסי עבודה ומשאבי GPU על גבי Kubernetes. לפי הפוסט הרשמי בבלוג של NVIDIA, היא עוסקת בהקצאה דינמית של GPU לאורך כל מחזור החיים של העומס, מעיבוד נתונים ואימון ועד הסקה. החברה נוסדה בישראל, ו-NVIDIA רכשה אותה לפני כשנתיים בעסקה של כ-800 מיליון דולר, לפי דיווח של Calcalist.

מה נפתח בדיוק

הפתיחה לקוד פתוח כוללת את הפלטפורמה כולה, ובנוסף ארבעה רכיבים שאפשר לאמץ בנפרד:

KAI Scheduler הוא מנוע התזמון שמניע את Run:ai. הוא מתפרסם תחת רישיון Apache 2.0 ונתרם ל-CNCF כפרויקט Sandbox. הוא תומך בתזמון gang, שבו עבודה מרובת פודים נכנסת לאשכול כולה או לא נכנסת בכלל, בחלוקה הוגנת בין צוותים, בשיבוץ מודע לטופולוגיה, בשיתוף GPU (MIG, MPS, time-slicing ו-HaMi) ובהקצאה דינמית של משאבים (DRA). לפי NVIDIA, אפשר להתקין אותו באשכול קיים לצד הערימה הנוכחית, בלי להתקין את הפלטפורמה כולה.

GPU Fractioning Operator מאפשר לחלק GPU אחד לחלקים עבור פודים שונים ב-Kubernetes, על בסיס CUDA, ומציג מדדים לכל פוד. את היתרונות בביצועים בפועל לא פורסמו מספרים בהודעה.

KAI Resource Management מנהל מכסות והיררכיה ארגונית: פרויקטים, מחלקות ו-node pools. Workload Map הוא ממשק אחיד לניהול עומסי עבודה. לפי מאגר הפרויקט, מדובר בשכבת תרגום שממפה את ה-CRD של מסגרות Kubernetes שונות למבנה כללי אחד.

הרישיון: מה כן ומה לא

הגרסה הקהילתית זמינה ב-NVIDIA NGC כ-Community Product עם Helm chart. לפי NVIDIA, אין צורך במנוי Run:ai בתשלום או בתמיכה מבית NVIDIA, אבל כן צריך לקבל את תנאי הרישיון של NVIDIA בהורדה. התמיכה הארגונית אינה כלולה. הגרסאות המסחריות נשארות זמינות דרך NVIDIA Mission Control, NVIDIA AI Enterprise ומרקטפלייסים של ענני ענק.

מי כבר בונה על זה

ההודעה מונה שמונה שותפים ב-DSX שמשלבים את הפלטפורמה: Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud ו-vCluster. ההטמעות שונות זו מזו:

Crusoe משלבת את Run:ai עם Crusoe Managed Kubernetes. Nebius מציעה אותו כאפליקציה בהתקנה בלחיצה ב-Nebius Managed Service for Kubernetes. Mirantis מוסיפה אותו לקטלוג של k0rdent AI, שמטפל בהתקנת שכבת הבקרה וברכיבים התומכים. הודעת Mirantis עצמה, שפורסמה ב-13 באוקטובר 2026, מופיעה בתפוצה של Business Wire ואומתה כאן דרך שכפול בשם lelezard.com.

OpenNebula מציגה את השילוב שלה כחלק מ-OneKS, שירות ה-Kubernetes שלה. לפי החברה, לקוחות שמשתמשים בהצעה שלה לא צריכים רישיון מסחרי של Run:ai, והתמיכה כלולה במנוי AI Cloud שלה. זו טענה של השותפה ולא של NVIDIA, ולכן כדאי לבדוק אותה מול ההצעה לפני החלטה.

מה זה אומר בפועל

השינוי המעשי הוא בעלות על הכניסה. חברה שרוצה לבחון תזמון GPU מתקדם, כמו gang scheduling, מכסות לפי צוות ושיתוף GPU, יכולה להתקין את הרכיבים בסביבת בדיקה בלי רישיון מסחרי. השאלה הפתוחה היא כמה מהקוד מוכן לייצור בגרסה הפתוחה לעומת הגרסה המסחרית, וההודעה לא עונה על כך. מומלץ לבדוק את המאגרים, את גרסאות התמיכה ואת תנאי הרישיון לפני החלטת אימוץ.

מקורות: NVIDIA Developer Blog (המקור הראשי, נקרא במלואו); מאגר NVIDIA Run:ai; הודעת Mirantis דרך Business Wire (משני, Morningstar); הדיווח על רכישת Run:ai ב-Calcalist (משני, כותרת בלבד נבדקה).