Qeravio
אירוע בינה קנוני

השרת Llama.cpp מעביר עכשיו את כל טעינת המודלים דרך תור.

התיקון מבטיח שכל טעינת דגמים עוברת דרך התור, ומנע פינוי במהלך המעברים. בקשות לעצירת דגמים עכשיו מתורצות ונעשות על ידי הדוגמה הבאה.

23 בספט׳ 20261 טענות מאומתות1 מקורות1 תצפיות
מה קרה

המקור הרשמי דיווח על עדכון: b11114. שרת: תיקון תחרויות גירוש של ראוטר עם התור הקיים. שרת: כל טעינת מודל עוברת דרך התור. מודל שהועלה דרך הנתיב המהיר לא היה רשום בתור, כך שהפקודה tick() גירשה אותו במהלך המעבר ל-LOADED לפני שהבקשה שלו הועברה. עתה כל טעינה מצטרפת לתור, שמגן על המודל עד שהמתינים לו עוזבים. שרת: לא לאפשר בקשות למודל שמתעכב. בקשה למודל שנעצר עדיין רואה אותו כ-LOADED ונשלחת לילד המת. בקשה כזו מצטרפת עתה לתור ומשרתת על ידי הדגם הבא.

למה זה חשוב

עדכון רשמי מדווח על התפתחות בנוגע ל-b11114: שרת: תיקון תחרויות גירוש של ראוטר עם התור הקיים. משמעות הפעולה תלויה בטווח והראיות שצוינו על ידי המקור.

מה כדאי לבדוק בהמשך

קראו את עדכון המקור הרשמי ולאמת את היקף, הראיות והזמן המפורטים לפני שתפעילו אותו.

ידע מקושר

ישויות שמושפעות מהאירוע

המשך בנושא
שרשרת ראיות

המקורות שמאחורי האירוע