Qeravio
אירוע בינה קנוני

Nemotron-3-Puzzle-75B-A9B של NVIDIA תומך כעת בניווט מומחים לשכבה.

דגם נמוטרון-3-פאזל-75B-A9B של NVIDIA תומך כעת בניווט מומחים לשכבה. ההגדלה כוללת טיפול ב-5 גודלי קידום קדימה שונים ו-7 ערכי top-k בכל אחת מ-40 השכבות.

4 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
מה קרה

המקור הרשמי דיווח על עדכון: b10776. נוספה תמיכה בדגם NVIDIA Nemotron-3-Puzzle-75B-A9B (NemotronHPuzzle). נוספו מערכים של n_ff_exp/n_expert_used לשכבה עם טעינה של סקלר או מערך, תשתית G1/G2 לממדי רשת נוירונים משתנים לשכבה ונתיבי top-k (נדרש לדגם Puzzle-75B שיש לו 5 ערכים שונים של n_ff_exp ו-7 ערכים של top-k ברחבי 40 שכבות MoE). בתכנון: שמות החברים הסקלריים שונו לסיומת _impl, נוספו מערכים של LLAMA_MAX_LAYERS, והוספו גישות ל-n_ff_exp(il)/n_expert_used(il) עם נפילה לסקלר.

למה זה חשוב

העדכון הרשמי מדווח על התפתחות בנוגע ל-b10776: הוספת תמיכה בדגם NVIDIA Nemotron-3-Puzzle-75B-A9B (NemotronHPuzzle).

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ווידאו את היקפו, הראיות והזמן המופיעים בו לפני שתפעילו אותו.

ידע מקושר

ישויות שמושפעות מהאירוע

שרשרת ראיות

המקורות שמאחורי האירוע