AMD希望通過開源軟件生態系統贏得亞太地區AI開發者的青睞,幫助該地區在全球舞臺上競爭而無需依賴專有AI開發工具。AMD采用開源路線推出ROCm平臺,與vLLM等開源項目集成以實現更快創新,旨在打破Nvidia Cuda等閉源軟件環境的壟斷。公司推出"ROCm無處不在"計劃,統一開發者體驗,支持從筆記本到超級計算機的擴展。AMD的芯片架構在推理工作負載方面具有優勢。
總部位于圣地亞哥的AI公司耐能發布新一代KL1140芯片,這是首款能在邊緣端運行完整變換器網絡的神經處理單元。該芯片可將大語言模型從云數據中心轉移到便攜式本地設備中,四顆芯片組合可實現類似GPU的性能,支持1200億參數模型運行,功耗降低三分之一至一半,硬件成本減少十倍。