В ROCm 6.3 добавлено несколько новых функций, включая компилятор Fortran и SGLang


Компания AMD анонсировала версию ROCm 6.3, которая добавляет множество новых обновлений в экосистему ROCm. Последняя итерация стека драйверов с открытым исходным кодом содержит несколько дополнений, включая SGLang, FlashAttention-2 и компилятор Fortran. SGLang - это новая среда выполнения в ROCm 6.3, которая якобы улучшает задержку, пропускную способность и использование ресурсов за счет оптимизации «передовых» генеративных моделей ИИ на доморощенных GPU... Читать далее