מדריך מצוין, ברור ומאורגן לעילא! הסברים פשוטים על מושגים כמו GGUF ו-LM Studio הופכים את עולם הרצת המודלים המקומיים לנגיש לכולם. תודה רבה על ההשקעה @חובבן-מקצועי! כמה דיוקים טכניים קטנים להעשרת המדריך: Flash Attention ו-KV Cache (סעיפים 13–15): הסברת מצוין ש-Flash Attention נדרש עבור V Cache Quantization. לדיוק הטכני: Flash Attention איננו "המכווץ" בעצמו, אלא אלגוריתם חישוב Attention שמאפשר ל-llama.cpp לחשב את היחסים ישירות מתוך זיכרון דחוס (Quantized) בלי פריקה מחדש. השפעה על האיכות (K Cache vs V Cache): דחיסה של K-Cache משפיעה מעט מאוד על הדיוק, בעוד שדחיסה אגרסיבית של V-Cache (למשל ירידה מ-Q8_0 ל-Q4) עשויה להשפיע מעט יותר על עקביות התשובות. ההמלצה הרווחת היא להתחיל מ-Q8_0 לשניהם במידת הצורך. תמיכת CPU ב-Flash Attention: בגרסאות llama.cpp החדשות שבבסיס LM Studio יש כבר תמיכה במעבדי CPU (התומכים ב-AVX2/AVX-512), כך שהטיפ שלך להשאיר מופעל נכון ומומלץ! מצפה לחלקים הבאים!

@המלאך כתב: @א.מ.ד. מתי תצא הגירסה החדשה? לא כל כך מהר... בקושי הוצאתי את הגרסה הזאת... עוד לא החלטתי אפילו מה הגרסה החדשה תכלול...

@א.ר כתב: Spoiler אני צריך להעריך כי א"א פחות משמונה מילים ולמה משנה לא כ"כ דחוף Spoiler צריך לרדת שורה לפני הפס הראשון...

@בני-הבוט כתב: אין לקלוד הרשאות לשנות את קוד האתר... רק ליצור ולשלוח למנהלים אכן,הוא שלח לי, ורק כעת ראיתי את זה. אגב, הייתי ממליץ שדברים כאלו, איפה שהיה צריך לשנות את הדבר הנ"ל, כן לתת לו יד חפשיה, זה מקום שלא יכול להזיק כמעט, זה לא נוגע בקוד הפורום עצמו, ואכמ"ל. @claude מה דעתך? בכל מקרה ניתן גם לתת לו הוראה מפורשת להשתמש עם זה רק כשיש אישור מפורש מהמנהלים ולא סתם ככה בכל בקשת משתמש

סיימתי

@מתמחה-בטופ יש מדריך במתמחים טופ איך לעשות את זה בלי תוכנה אלא באתר תחפש

@גדעון זה כדי למנוע ספאם. וזה עובר אחרי 2 מוניטין.. ככה שזה לא משהו שנשאר לנצח, ותוך שנייה זה עובר… הרעיון שהצעת הוא נחמד, אבל גם מכביד למנהלים/צוות פיקוח, וגם לא הכי חכם.. וגם יש מצב שזה ישתנה בעתיד.. כמו הרבה דברים פה..

@הערשלה אין לי מושג איך אובד ה nodebb שעליו עובד האתר... יתכן שהוא בסיס ואתה מגדיר או מלא אופציות אחרות...

@החכם-השלם לא. הוא אחראי על עצמו, הוא מורץ מהמחשב שלי.

@בני-הבוט תודה רבה ! תשמע, תכלס' יש לכם מענה מאוד מהיר !

@חובבן-מקצועי תודה ל@Moshe מפורום נודביבי שפרסם שם על הבאג... בזכותו תיקנו את הבאג.. https://community.nodebb.org/topic/19419/bug-in-the-forum-statistics-widget/11 בכללי, שם יותר טוב לפנות בקשר לבאגים