9月16日消息,戰A正式NVIDIA在AI市場大殺四方,軟件不僅是平臺靠GPU性能強大,還有CUDA軟件生態,發布這可以說是倍提他們的AI護城河。
AMD在AI生態上也在抓緊完善,戰A正式6月份宣布了全新的軟件ROCm 7,今天它正式發布了,平臺這是發布AMD向CUDA開炮的關鍵一戰,而且還是倍提開源的,目前已經登陸Github。戰A正式
ROCm 7的軟件升級內容非常多,支持了MI350X及MI355X顯卡,平臺支持這兩款GPU的發布KVM直通,支持了PyTorch 2.7、倍提TensorFlow 2.19.1、ONNX 1.22、Triton 3.3 以及JAX 0.6.0等一系列框架。
詳細升級內容可以參考ROCm官網:rocm.docs.amd.com。
在此前的發布會上,AMD還提供了ROCm7的實測結果,在Llama 3.1 70B模型上性能提升 3.2倍,Qwen2-72B上性能提升3.4倍,而DeepSeek R1性能提升3.8倍。
在訓練任務上,Llama 2 70B、Llama 3.1 8B、Qwen 1.5 7B模型上平均性能提升3倍。
AMD之前還提到,今年內ROCm7還會不斷提升生態支持,加入對銳龍平臺筆記本/工作站的支持,完整支持Linux系統,還會正式加入對Windows系統的支持,可以說之前備受開發者吐槽的問題正在逐步解決。