Qeravio
אירוע בינה קנוני

Llama.cpp שיפר את יעילות חיפוש הטוקנים.

העדכון שיפר את היצוא ב-4.9% ב-Qwen3.8-Flash-Next UD-Q4_K_XL.

2 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
מה קרה

המקור הרשמי דיווח על עדכון: b10750. ב-KV-cells, ניתנת אפשרות לחפש את ההיסטוריה של n-gram באינדקס מיקום הרצף. עדכון זה (מספר 28040) שינה את התהליך של get_prev_tokens(), שבנה מפה של (רצף, מיקום) -> טוקן בכל ubatch על ידי עיון בכל התאים המשמשים. במקביל, llama_kv_cells כבר שומר אינדקס מסודר של מיקומי הרצפים ב-seq_pos, שמעודכן בכל שינוי בתא כדי לשמש את seq_pos_min() ו-seq_pos_max().

למה זה חשוב

העדכון הרשמי מדווח על התפתחות בנוגע ל-b10750: kv-cells: חיפוש היסטוריית n-gram באינדקס מיקום הסדרה. משמעות הפעולה תלויה בטווח והראיות שצוינו על ידי המקור.

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ולאמת את היקף, הראיות והזמן המפורטים לפני שתפעילו אותו.

ידע מקושר

ישויות שמושפעות מהאירוע

שרשרת ראיות

המקורות שמאחורי האירוע