המקור הרשמי דיווח על עדכון: b11227. בינה מלאכותית לא תתחיל מחדש את התכנון כאשר משנה את מצב causal_attn. בינה מלאכותית לא תתחיל מחדש את התכנון כאשר משנה את מצב causal_attn ( #28751 ). בינה מלאכותית לא תתחיל מחדש את התכנון כאשר משנה את מצב causal_attn. פונקציית llama_context::set_causal_attn() מציינת את התכנון לעשות תחזיר מחדש מלא בכל שינוי של הדגל. עבור קלטי ויזואלים, הדגל משתנה פעמיים סביב כל קטע תמונה שאינו קאוזלי עבור דגמי Gemma, מה שגורם לשתי פעולות יקרות של sched_reserve() לכל תמונה. זה איטי במיוחד עבור קלטי תמונות מרובות או וידאו.
אירוע בינה קנוני
שרת לימה קיצרה את זמן עיבוד התמונות עד פי 7.61 עם שיפור תזמון.
העדכון קוצר את זמן העיבוד של תמונות ווידאו רבים במודלים של גמה, על ידי ביטול הזמנות מחדש של לוח זמנים מיותרות.
29 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
עדכון רשמי מדווח על התפתחות בנוגע ל-b11227: לא לשמור מחדש על התזמון בעת שינוי causal_attn. חשיבותו מעתיקה על התחום והראיות שצוינו על ידי המקור.
קראו את עדכון המקור הרשמי ווידאו את היקפו, הראיות והזמן שצוינו לפני שתתפעלו בו.
ידע מקושר
ישויות שמושפעות מהאירוע
המשך בנושא
עדכונים מאומתים קשורים
שרשרת ראיות
המקורות שמאחורי האירוע
הצגה מערכתית
פתיחת הכתבה