המקור הרשמי דיווח על עדכון: לילה אחרון ירוק: הצטמצם טביעת הזיכרון של בדיקת אנטרופיה מחולקת (#8824). הבדיקה המקורית של 8,192 טוקנים עם מילון של 151,936 מילים דורשת 4.64 ג'יגה-בייט עבור כל טנסור מלא בגודל לוגיט FP32. במהלך עיכוב CI מחודש, עובד pytest ארוך טווח החזיק 28.2 ג'יגה-בייט של זיכרון GPU. הפתק הזה מפחית את מספר הטוקנים מ-8,192 ל-128, תוך שמירה על מילון של 151,936 מילים: כל טנסור מלא בגודל FP32 הופך ל-74.2 מגה-בייט, צמצום של 64 פעמים. הפתק שומר על סובלנות אובדן/גרדיאנט ודרישה לשמירת זיכרון של שני טנסורים FP32, ומפריע את הרפרנסים והמצב של מחסן CUDA בבדיקה.
אירוע בינה קנוני
Nightly-last-green קיצרה את צריכת הזיכרון של מבחן אנטרופיה בין-דגמי ב-64.
הצריכת הזיכרון של מבחן האנטרופיה ירדה מ-4.64 ג'יגה-בייט ל-74.2 מגה-בייט לכל טנסור.
15 באוק׳ 20261 טענות מאומתות1 מקורות1 תצפיות
עדכון רשמי מדווח על פיתוח בנוגע ל-nightly-last-green: צמצום זיכרון בדיקת חונקת אנטרופיה חצויה (#8824). משמעותו העשייתית תלויה בטווח והראיות שמציג המקור.
קראו את עדכון המקור הרשמי ווידאו את היקפו, הראיות והזמן המופיעים בו לפני שתפעילו אותו.
ידע מקושר
ישויות שמושפעות מהאירוע
המשך בנושא
עדכונים מאומתים קשורים
שרשרת ראיות
המקורות שמאחורי האירוע
הצגה מערכתית
פתיחת הכתבה