︿
Top

AMD Helios正面迎戰NVIDIA!從晶片到整櫃AI基礎設施,開啟AI資料中心新競賽

瀏覽次數:162| 歡迎推文: facebook twitter wechat Linked

科技產業資訊室(iKnow) - 黃松勳 發表於 2026年7月27日
facebook twitter wechat twitter

圖、AMD Helios正面迎戰NVIDIA!從晶片到整櫃AI基礎設施,開啟AI資料中心新競賽

隨著生成式AI快速邁向Agentic AI(代理式AI)時代,全球AI運算需求已從單一GPU競賽,逐步升級為整體AI基礎設施的競爭。AMD於美國舊金山Advancing AI 2026大會正式公布新一代Helios機櫃級(Rack-scale)AI系統,搭配Instinct MI455X GPU、EPYC Venice處理器及完整軟硬體平台,正式向NVIDIA長期主導的AI資料中心市場發起挑戰。此次發表不只是新產品上市,更代表AI運算競爭已從晶片性能延伸至整個系統架構、記憶體容量、互連技術及軟體生態系的全面比拚。

AMD此次策略亦反映全球超大規模雲端服務供應商(Hyperscaler)的需求變化。OpenAI、Microsoft、Meta、Oracle及Anthropic等企業皆已宣布導入Helios或相關MI400系列產品,顯示市場已不再單純依賴單一GPU性能,而是更重視能否支援數千億甚至兆級參數模型的整體AI工廠(AI Factory)部署。AMD預估2030年全球AI加速器市場規模將達1.4兆美元,足見AI基礎設施已成為半導體產業下一波最重要的成長動能。

Helios最大的特色,在於首次將72顆Instinct MI455X GPU整合成單一機櫃級運算平台,可視為AMD首次真正對標NVIDIA NVL72架構。整個系統除搭配新一代EPYC Venice CPU之外,也整合Pensando網路處理器及高速互連架構,使大量GPU能夠協同運算。相較過去單卡或單節點設計,機櫃級(Rack-scale)架構能有效降低跨節點通訊延遲,提高大型語言模型訓練與推論效率,更符合未來AI超級資料中心的建置方向。

在核心運算能力方面,MI455X採用AMD最新CDNA 5架構,透過台積電2奈米與3奈米製程混合設計,整合約3,200億個電晶體,並搭配先進CoWoS-L封裝及3D Hybrid Bonding技術。GPU配置432GB HBM4高頻寬記憶體,頻寬達23.3TB/s,不僅比上一代產品大幅提升,也高於目前已公開的NVIDIA Rubin GPU記憶體容量。高容量HBM意味著可容納更大型模型權重及KV Cache,降低模型切割需求,對大型推論工作具有明顯優勢。

若進一步比較兩大陣營,AMD此次並非單純追求最高浮點運算能力,而是強調整體系統效益。Helios單一機櫃可提供超過31TB HBM4記憶體總容量,比NVIDIA Vera Rubin NVL72約20.7TB高出約五成。雖然部分理論FP4運算效能仍略低於Rubin,但在大型模型部署中,記憶體容量往往比單純運算速度更具決定性,因此AMD選擇以高容量、高頻寬及完整平台整合建立差異化競爭優勢。

除了硬體之外,AMD近年積極補強軟體生態系亦是此次發表重點。ROCm已逐漸獲得PyTorch、vLLM及SGLang等AI框架完整支援,並推出OpenClaw多代理AI框架及ROCm AI工具,加速AI模型最佳化與部署。相較CUDA長達近二十年的成熟生態,ROCm仍有成長空間,但對於推論工作而言,其效能差距已逐漸縮小,加上較低部署成本,開始吸引大型雲端服務商採用,也降低企業對單一平台的依賴。

值得注意的是,AMD此次多次強調「開放AI基礎設施」(Open AI Infrastructure)概念。包括UALink開放互連標準、ROCm開源平台及與OpenAI、Meta、Microsoft共同合作,都反映AMD希望建立不同於NVIDIA封閉生態系的策略。對大型企業而言,開放架構有助於降低供應商綁定(Vendor Lock-in)風險,也能讓未來AI基礎設施具有更高擴充彈性,因此逐漸受到超大規模資料中心營運商重視。

然而,AMD仍面臨供應鏈與市場挑戰。HBM4記憶體目前供應量有限,2026年初期產能幾乎已被大型雲端業者預訂,一般企業真正取得完整Helios系統仍需等待後續量產。此外,CUDA累積多年形成的開發工具、生態系與人才基礎短期內仍具高度優勢,因此AMD若要進一步擴大市占率,除了持續提升硬體效能之外,加速ROCm成熟度及擴大開發者社群仍將是關鍵課題。

AMD此次發表Helios,不只是推出一套新的AI運算平台,更反映AI產業競爭已從單一晶片效能,全面轉向系統整合能力、開放軟體生態及供應鏈協同的綜合實力比拚。隨著大型語言模型持續擴大、Agentic AI快速普及,以及全球超大規模資料中心進入新一波建設周期,企業採購考量也將從GPU規格延伸至整體AI基礎設施的部署效率與總持有成本(TCO)。未來AI資料中心市場將由「平台競爭」取代「晶片競爭」,AMD與NVIDIA如何在硬體、軟體、生態系及合作夥伴布局上持續擴大差異化優勢,不僅牽動全球AI運算資源配置,也將重新定義下一世代AI基礎建設的發展方向。(1501字)


參考資料:
AMD takes on Nvidia with its Helios AI rack-scale system. TechCrunch, 2026/7/23
AMD takes the wraps off its Instinct MI455X AI accelerator — CDNA 5 and Helios rack-scale architecture combine to take the fight to Nvidia in the data center. Tom's Hardware, 2026/7/23
AMD Advancing AI 2026 Opens With Zen 6 Venice, Helios, and Open AI Rack Bet. TechTimes, 2026/7/22
AMD Advancing AI 2026 Keynote Live Coverage. ServeTheHome, 2026/7/23

 

 
歡迎來粉絲團按讚!
--------------------------------------------------------------------------------------------------------------------------------------------
【聲明】
1.科技產業資訊室刊載此文不代表同意其說法或描述,僅為提供更多訊息,也不構成任何投資建議。
2.著作權所有,非經本網站書面授權同意不得將本文以任何形式修改、複製、儲存、傳播或轉載,本中心保留一切法律追訴權利。