AMD, yapay zeka için optimize edilmiş ROCm 5.6’yı piyasaya sürüyor!

AMD yaptığı açıklama ile AMD ROCm 5.6 açık yazılım platformunu piyasaya sürdüğünü duyurdu. AMD Yapay Zeka grubunun Kıdemli Başkan Yardımcısı Vamsi Boppana, ROCm 5.6’nın bazı yeni özelliklerini de açıkladı.

Yapay Zeka ve LLM iş yükleri için ROCm 5.6 şu avantajları sağlıyor;

Hugging Face ünitesi test paketinin ROCm QA’ya entegrasyonu
PyTorch 2.0 indüktör modunda OpenAI Triton için artımlı destek
PyTorch, TensorFlow ve JAX için ROCm aracılığıyla OpenXLA desteğini etkinleştirmek için daha geniş topluluk desteği.

HPC uygulamaları için ROCm 5.6, FFT, BLAS gibi çeşitli matematik kitaplıklarında ve HPC uygulamaları için temel oluşturan çözücülerde iyileştirmeler ve kurulum, ROCgdb (CPU-GPU entegre hata ayıklayıcı), belgeler ve ROCm profil oluşturucu dahil olmak üzere ROCm geliştirme ve dağıtım araçlarında geliştirmeler sunuyor.

AMD, önümüzdeki aylarda, OpenAI Triton ve OpenXLA derleyicileri için AMD desteğiyle gelen MLIR altyapı iyileştirmeleri de dahil olmak üzere çerçeveleri ve arka uç derleyicilerini optimum performans için daha da optimize edecek. Müşteriler, Hugging Face’teki AMD merkezinde AMD çözümleri için optimize edilmiş ek açık kaynaklı yapay zeka modelleri de bekleyebilirler.

Ek olarak AMD, bu yılın sonlarında, AMD ROCm için resmi desteğin seçili AMD RDNA 3 tabanlı GPU’lar için sunulmaya başlayacağını açıkladı. Linux’ta RDNA 3 tabanlı GPU’lar için resmi desteğin, 48 GB Radeon PRO W7900 ve 24 GB Radeon RX 7900 XTX‘ten başlayarak, ek kartlar ve genişletilmiş yeteneklerle birlikte bu sonbaharda kullanıma sunulması planlanıyor.