Qeravio
אירוע בינה קנוני

תוקנו שגיאות בחלוקה באפס ב- nemotron-h מומחה.

לולאת זנב NextN/MTP ב-nemotron-h עשויה להיכשל בשגיאה SIGFPE בזמן הטעינה עקב מחלק אפס.

13 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
מה קרה

המקור הרשמי דיווח על עדכון: b10947. צוות המשימה שמר על גודל הנפילה של הרשת המלאכותית המומחה ב nemotron-h מפני חלוקה באפס. בשלב NextN/MTP, גודל הרשת המלאכותית המומחה נובע מנוסחת n_ff/n_expert_used כאשר expert_feed_forward_length אינו מספק ערך לשכבה. שני הערכים מגיעים ממערכים לפי שכבה שיכולים להכיל 0 בשכבות שאינן MoE. כתוצאה מכך, נקודת ביקורת שבה שכבות ההרצה מכילות 0 בשני הערכים מחלקת באפס ומתקלקלת עם SIGFPE בעת הטעינה, ללא הודעת שגיאה. במקום זאת, יש לדווח על מטא-נתונים מוטעים.

למה זה חשוב

העדכון הרשמי מדווח על התפתחות בנוגע ל-b10947: דגמים: שמירה על גודל הנפילה של הרשת המומחית ב-nemotron-h מפני מחלק ב-0. החשיבות הפרקטית תלויה בטווח והראיות שצוינו על ידי המקור.

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ווודאו את היקפו, הראיות והזמן לפני שתפעילו אותו.

ידע מקושר

ישויות שמושפעות מהאירוע

המשך בנושא
שרשרת ראיות

המקורות שמאחורי האירוע