אירוע בינה קנוני

Llama.cpp משתמש בחוק noshuffle לשורות נוספות.

חוק התאמת השורות של noshuffle חל כעת על q4_K, q5_K, q8_0 ו-q6_K.

13 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות

מה קרה

המקור הרשמי דיווח על עדכון: b10937: OpenCL: יישום כללי noshuffle של התאמה בשורה ל-q4_K, q5_K ו-q8_0, ולא רק ל-q6_K.

למה זה חשוב

עדכון רשמי מדווח על התפתחות בנוגע ל-b10937: opencl: יישום חוקת שורה ללא מערבב ל-q4_K, q5_K ו-q8_0, ולא רק ל-q6_K. משמעות הפעולה תלויה בטווח והראיות שצוינו על ידי המקור.

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ווודאו את היקפו, הראיות והזמן לפני שתפעילו אותו.

ידע מקושר