<![CDATA[(inclusionAI - Ling 3.0 Tiny (8B A1B: המודל החזק ביותר שתוכלו להריץ על המחשב שלכם, במהירות גבוהה!]]>חברת inclusionAI משחררת את המודל Ling 3.0 Tiny, הקטן ביותר בסדרת Ling 3.0.
שאר המודלים בסדרה פחות מעניינים ורלוונטיים, למרות שהם טובים בהחלט, אבל המודל המפתיע ביותר בסדרה הוא Ling 3.0 Tiny, מודל חשיבה בעל 8B פרמטרים כשרק 1.3B מופעלים עבור כל פרמטר, כך שהוא רץ כמעט במהירות של מודל 1B זעיר, אבל עם אינטליגנציה גבוהה מאוד ויכולות סוכן מטורפות. אני הצלחתי לקבל כ-19 טוקנים לשנייה ב-llama.cpp עם המודל הזה, עם 16 RAM בלבד במקביל לכ-900 כרטיסיות פתוחות בדפדפן...
המודל החדש מתמחה במיוחד בלולאות סוכן ובהפעלת כלים מרובים, עם יכולות היגיון וקידוד חזקות מאוד. עברית הוא דובר קצת פחות טוב, אבל עדיין מבין עברית מצוין.

מדדים:

  • אינטליגנציה:
    שימו לב אילו מודלים חזקים הוא עוקף או משתווה אליהם!
    החץ הסגול מדגים את הפער העצום מהמתחרה האמיתי של המודל החדש - LFM 2.5 8B A1B - מודל זהה בגודלו ובגודל הפרמטרים המופעלים.
    73c4bcf5-2257-413d-b33d-5e3b7dd17f8d-image.jpeg
  • יכולות סוכן:
    גם כאן, המודל החדש עוקף מודלים חזקים, כמו Gemma 4 31B עם חשיבה מופעלת!
    37cfd2af-268d-4131-8f08-0b0bd2798a9f-image.jpeg

המודל הושק כבר לפני שבוע, אבל עד אתמול לא נתמך ב-llama.cpp, ולכן ייקח זמן (כמה ימים) עד שייתמך בתוכנות המעטפת כמו LM Studio, אבל כבר עכשיו אפשר להשתמש בו בקלות עם llama.cpp. מקסימום תיעזרו ב-GPT...

קישור: https://huggingface.co/bartowski/Ling-3.0-tiny-GGUF

]]>https://bina.top/topic/183/inclusionai-ling-3.0-tiny-8b-a1b-המודל-החזק-ביותר-שתוכלו-להריץ-על-המחשב-שלכם-במהירות-גבוההRSS for NodeSat, 12 Sep 2026 12:26:18 GMTTue, 18 Aug 2026 21:11:31 GMT60<![CDATA[Reply to (inclusionAI - Ling 3.0 Tiny (8B A1B: המודל החזק ביותר שתוכלו להריץ על המחשב שלכם, במהירות גבוהה! on Wed, 19 Aug 2026 19:07:31 GMT]]>@א.מ.ד. חחח נראה לי אתם חולם בלילה בבינארית

]]>https://bina.top/post/2331https://bina.top/post/2331Wed, 19 Aug 2026 19:07:31 GMT