מקור רשמי דיווח על עדכון: b10715. הקודקוד DFlash של הקודר מופץ לתוך הזרקת המיידור KV. הקודקוד הוא fc יחיד + norm, אך ריצתו כ-llama_encode נפרד אילצה מסע סיבוב בין המכשיר לארחון של הפלט לפני שהזרקת המיידור יכלה להעלות אותו מחדש, בנוסף לבניית גרף שני לכל סיבוב. הקודקוד מופץ לסניף embd של הדקודר ומעביר את מאפייני היעד ישירות ל-llama_decode.
אירוע בינה קנוני
Llama.cpp שילבה את DFlash בקשירת מחסנית KV.
הקודר DFlash משולב כעת בזרקת הקאש KV, ומסיר נסיעה סביבתית ממכשיר למארח.
1 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
עדכון רשמי מדווח על התפתחות של b10715: צוות המשימה מציע לשלב את הקוד של DFlash עם הזרקת KV cache. משמעות הפיתוח תלויה בטווח והראיות שמציגים המקור.
קראו את עדכון המקור הרשמי ווודאו את היקפו, הראיות והזמן המופיעים בו לפני שתפעלו על פי זה.
ידע מקושר
ישויות שמושפעות מהאירוע
שרשרת ראיות
המקורות שמאחורי האירוע
הצגה מערכתית
פתיחת הכתבה