CUDA מאפשר כעת זרימות מקבילות לכל חלקה עבור מספר GPUs.

מקור רשמי דיווח על עדכון: b10782. CUDA: אפשר זרמים מקבילים לכל חלוקה ברבים של GPU. CUDA: אפשר זרמים מקבילים לכל חלוקה ברבים של GPU (#28198). CUDA: אפשר אופטימיזציה של CUDA לכל חלוקה ברבים של GPU. המשמר הקודם גרם לרב-GPU לדלג על אופטימיזציה של הגרף. הגרף כבר מחולק לפי מכשיר, והאופטימיזציה לא מתבצעת על כל המודל אלא פעם אחת לכל חלוקה, ולכן צריכה להיות מותרת. עם זאת, האירוע ggml_cuda_concurrent_event שייך ל-GPU שהיה פעיל בעת יצירתו. אם ההליך התבצע בעת ש-GPU 0 היה פעיל, הוא יישאר כך, ובמהלך יצירת האירוע עבור ה-GPU השני יתקבל על ידי GPU 0.