המקור הרשמי דיווח על עדכון: b10707: תאים של מפתחות-ערך יפסיקו את סריקת רצפים לאחר שיראו את כל הרצפים. עדכון זה (מספר 28011) פותח את כל רצפי LLAMA_MAX_SEQ עבור כל תא בשימוש, אף על פי שתא לרוב שייך לרצף אחד בלבד. הסריקה תיפסק כעת לאחר שיראו את רצפי התא שלו. סדר הביקורים והפרמטרים של הפונקציות נותרו ללא שינוי, כך שההתנהגות לא השתנתה. הפונקציה get_prev_tokens היא הקוראת היחידה, ולכן השינוי משפיע על מסלול ה-n-gram.
אירוע בינה קנוני
Llama.cpp מואץ יצירת קשר באמצעות סריקת רצפים.
סריקת סדרות בתאי KV מסתיימת לאחר תצפית בכל הסדרות הרלוונטיות, מה שמגדיל מהירות עד 39% בהקשרים גדולים.
31 באוג׳ 20261 טענות מאומתות1 מקורות1 תצפיות
העדכון הרשמי מדווח על התפתחות של b10707: kv-cells: הפסקת סריקת רצף לאחר שראו את כל הרצפים. משמעות הפעולה תלויה בטווח והראיות שצוינו על ידי המקור.
קראו את עדכון המקור הרשמי ווודאו את היקפו, הראיות והזמן לפני שתפעלו על פי זה.
ידע מקושר
ישויות שמושפעות מהאירוע
שרשרת ראיות
המקורות שמאחורי האירוע
הצגה מערכתית
פתיחת הכתבה