דילוג לתוכן
  • דף הבית
  • חוקי הפורום
  • המדריך לשימוש בפורום
  • פוסטים אחרונים
  • לא נפתר
  • תגיות
  • משתמשים
  • חיפוש גוגל בפורום
  • צור קשר
  • פופולרי
  • קבוצות
עיצובים
  • בהיר
  • Brite
  • Cerulean
  • Cosmo
  • Flatly
  • Journal
  • Litera
  • Lumen
  • Lux
  • Materia
  • Minty
  • Morph
  • Pulse
  • Sandstone
  • Simplex
  • Sketchy
  • Spacelab
  • United
  • Yeti
  • Zephyr
  • כהה
  • Cyborg
  • Darkly
  • Quartz
  • Slate
  • Solar
  • Superhero
  • Vapor

  • ברירת מחדל (ללא עיצוב (ברירת מחדל))
  • ללא עיצוב (ברירת מחדל)
כיווץ
לוגו אתר

צוות-פיקוח

פרטי

פוסטים


  • שיתוף | 🚀פיתוח חדש: תוסף לכרום שמוסיף צ'אט בוט לכל אתר אצלכם
    המלאךה המלאך
    עדכוני ai כלליים

    @YONI10 ניסית בגוגל ai סטודיו.

    מה זה הראה לך.


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    א.מ.ד.א א.מ.ד.
    פיתוח, תכנות ואינטגרציות

    @המלאך כתב:

    @א.מ.ד. הדרך שבה המומחים עוברים, לא בדקתי את זה אבל nvme זה צורה אחרת של העברת נתונים..

    כן, זה דיסק יותר מהיר, אבל כמו שכתבתי זה הסטנדרט כיום.


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    המלאךה המלאך
    פיתוח, תכנות ואינטגרציות

    @א.מ.ד. הדרך שבה המומחים עוברים, לא בדקתי את זה אבל nvme זה צורה אחרת של העברת נתונים..


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    א.מ.ד.א א.מ.ד.
    פיתוח, תכנות ואינטגרציות

    @המלאך כתב:

    הליבות ינוצלו למקסימום על ידי מערכת ההפעלה.

    טוב, נו, זה המחשב הכי זול שהיה בחנות, אין מה להתווכח... ליבות יעילות הכוונה ליבות חלשות שנועדו להריץ תהליכים חלשים...

    @המלאך כתב:

    כמובן, סתם מסקרן אם הדרך העברה מהssd לא נפגמת ככה..

    מה פירוש?


  • עדכון | עדכון חשוב בנושא הקבוצות
    המלאךה המלאך
    הודעות מערכת קבוצות תגיות

    שימו לב.

    עד היום כל מי שהגיש בקשה להצטרף לקבוצה כלשהי קיבל אותה.

    מהיום והלאה בקשות יאושרו לפי התנאים להלן:

    מדריכים: מי שפירסם לפחות שני מדריכים מועילים (ההגדרה של מועילים תיקבע לפי המנהלים או הצוות פיקוח),

    חוקרי ai: מי שיפרסם לפחות מדריך אחד או מאמר אחד בתחום החמידת מכונה או בתחומים נוספים בהקשר ההוא.

    יוצרי ai: מי שיפרסם או לפחות שירשור אחד עם יצירות ai שהוא ייצר והשקיע, או לפחות מדריך פרומפטים אחד.

    חשוב מאוד! עצם זה שאתם נמצאים בקבוצה לא מבטיח שתמיד תיהיו שם.
    עליכם להוכיח את עצמכם במשך הזמן.

    הדברים ישארו נתונים לשיקול דעת המנהלים וחברי צוות פיקוח.

    הרבה הצלחה וא גוטן קוויטל.. 🙂


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    המלאךה המלאך
    פיתוח, תכנות ואינטגרציות

    @א.מ.ד. @א.מ.ד. לא משנה.

    הליבות ינוצלו למקסימום על ידי מערכת ההפעלה.

    מה תאמר למחשב עם 4 ליבות?

    @א.מ.ד. כתב:

    כן. אבל זה הסטנדרט היום.

    כמובן, סתם מסקרן אם הדרך העברה מהssd לא נפגמת ככה..


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    א.מ.ד.א א.מ.ד.
    פיתוח, תכנות ואינטגרציות

    @המלאך כתב:

    דרך אגב, סתם סקרנות, יש לך nvme?

    כן. אבל זה הסטנדרט היום.


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    א.מ.ד.א א.מ.ד.
    פיתוח, תכנות ואינטגרציות

    @המלאך כתב:

    נכון מאוד, ביחס לlama.cpp המהירות תונמך, וזה בגלל שלאמה מיועד להתמודד עם זה,
    אני גם לא כתבתי מספרים בדווקא כדי להימנע מהשערות.

    אבל גם שלי מיועד להתמודד עם זה, מהסיבה הפשוטה שהתוכנה שלי היא llama.cpp עם התאמות.

    @המלאך כתב:

    א׳ מניין לך?

    מציאות. תבדוק איפה שאתה רוצה. תג'פט או תגגל.

    @המלאך כתב:

    ב׳ גם אם נניח שכן, שלך וודאי לא עוקף את לאמה בהקשר הזה, אלא מה - אין לה ייתרון על שלך.
    וכן מסתכלים על איפה שכן יש ייתרון, גם אם הוא קטן משמעותית.

    לא כתבתי ששלי עוקף, אלא זהה.
    וכן, יש מצב ששלי עוקף, כי עשיתי כמה אופטימיזציות שמפתחי llama.cpp בחרו שלא לעשות במודע, כי המטרה שלי קצת שונה משלהם.

    @המלאך כתב:

    ועם 8 ליבות...

    תיקון טעות - יש לי 10 ליבות, אבל 8 מתוכן הן ליבות יעילות ורק 2 ליבות ביצועים.
    אז אמנם יש לי 10 ליבות, אבל זה i5 חסכוני מסדרת U. מחשב גיימינג נקבע בעיקר לפי כרטיס המסך וההספק, לא לפי מספר הליבות.
    מדובר במחשב שפעת ב-1700 ש"ח...


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    המלאךה המלאך
    פיתוח, תכנות ואינטגרציות

    @א.מ.ד. כתב:

    מה זה קשור? אני מדבר ביחס ל-llama.cpp הרגיל.
    אני אומר לך מספרים מציאותיים, לא סתם השערות.

    נכון מאוד, ביחס לlama.cpp המהירות תונמך, וזה בגלל שלאמה מיועד להתמודד עם זה,
    אני גם לא כתבתי מספרים בדווקא כדי להימנע מהשערות.

    @א.מ.ד. כתב:

    ואגב, רוחב פס משמעותי פי כמה ממספר הליבות.

    א׳ מניין לך?
    ב׳ גם אם נניח שכן, שלך וודאי לא עוקף את לאמה בהקשר הזה, אלא מה - אין לה ייתרון על שלך.
    וכן מסתכלים על איפה שכן יש ייתרון, גם אם הוא קטן משמעותית.

    @א.מ.ד. כתב:

    לי יש מחשב גיימינג? הלוואי... 16 RAM ללא GPU ועם 8 ליבות...

    דרך אגב, סתם סקרנות, יש לך nvme?


  • להורדה | SparkMoE גרסה V0.4.2 - הרצת מודלי שפה גדולים על חומרה חלשה! עדכון י"א תשרי תשפ"ז
    א.מ.ד.א א.מ.ד.
    פיתוח, תכנות ואינטגרציות

    @המלאך כתב:

    @א.מ.ד. זה ממש לא נכון,
    ככל שכמות הליבות קטנה יותר, או שמחזור השעון איטי יותר - המהירות תונמך.

    מה זה קשור? אני מדבר ביחס ל-llama.cpp הרגיל.
    אני אומר לך מספרים מציאותיים, לא סתם השערות.
    ואגב, רוחב פס משמעותי פי כמה ממספר הליבות.

    @המלאך כתב:

    בדיקות לא עושים על מחשב גיימינג..

    לי יש מחשב גיימינג? הלוואי... 16 RAM ללא GPU ועם 8 ליבות...

רשימת חברי הקבוצה

המלאךה המלאך מנהל קבוצה
227 פוסטים 165 מוניטין
שניאור שמחש שניאור שמח מנהל קבוצה
282 פוסטים 206 מוניטין
נ נוחעם FM מנהל קבוצה
14 פוסטים 39 מוניטין
א.מ.ד.א א.מ.ד. מנהל קבוצה
51 פוסטים 106 מוניטין
בני הבוטב בני הבוט מנהל קבוצה
165 פוסטים 179 מוניטין
  • התחברות

  • אין לך חשבון עדיין? הרשמה

  • התחברו או הירשמו כדי לחפש.
  • פוסט ראשון
    פוסט אחרון
0
  • דף הבית
  • חוקי הפורום
  • המדריך לשימוש בפורום
  • פוסטים אחרונים
  • לא נפתר
  • תגיות
  • משתמשים
  • חיפוש גוגל בפורום
  • צור קשר
  • פופולרי
  • קבוצות