Qeravio
אירוע בינה קנוני

ביצועי Vulkan של Strix Halo השתפרו עם שורות mat-vec סטטיות.

המכונה Strix Halo מראה ביצועים מהירים יותר עם תצורה סטטית של 4 שורות בפעולות מטריצה-וקטור.

1 בספט׳ 20261 טענות מאומתות1 מקורות2 תצפיות
מה קרה

מקור רשמי דיווח על עדכון: b10714: וולקאן: הוספת שורות mat-vec להסבר המוני על Strix Halo. וולקאן: הוספת שורות mat-vec להסבר המוני על Strix Halo (#27909). וולקאן: RDNA3: שורות mat-vec סטטיות מעל ארבע עמודות. מעל ארבע עמודות, 4 שורות סטטיות לכל סוגי הבנקים מהירות יותר מהברירת המחדל. וולקאן: RDNA3: שורות mat-vec-id סטטיות. mul_mat_vec_id לא מכיל מימד עמודות. במכונת Strix Halo, 4 שורות סטטיות מהירות יותר מהברירת המחדל בכל סוגי הבנקים וגדלים של הבטחות.

למה זה חשוב

המשמעות המעשית של העדכון בנושא ביצועי Vulkan של Strix Halo השתפרו עם שורות mat-vec סטטיות תלויה בפרטים ובמגבלות שמוצגים במקור.

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ווידאו את היקפו, הראיות והזמן שצוינו לפני שתפעילו אותו.

ידע מקושר

ישויות שמושפעות מהאירוע

Llama Cppsubject
שרשרת ראיות

המקורות שמאחורי האירוע

llama.cpp official releasesb10714: vulkan: tune mat-vec rows for batched inference on Strix Halollama.cpp official releasesb10714: vulkan: tune mat-vec rows for batched inference on Strix Halo
הצגה מערכתית

קריאת הכתבה הציבורית

פתיחת הכתבה