AMD在Advancing AI 2024上發表領先業界的AI解決方案

發佈日期:2024/10/11




AMD推出定義人工智慧(AI)運算時代的最新高效能運算解決方案,包括第5代AMD EPYC™伺服器CPU、AMD Instinct™ MI325X加速器、AMD Pensando™ Salina DPU、AMD Pensando Pollara 400 NIC和適用於企業級AI PC的AMD Ryzen™ AI PRO 300系列處理器。AMD攜手合作夥伴展示如何大規模部署AMD AI解決方案、AMD ROCm™開源AI軟體產業體系的持續成長動能,以及眾多基於AMD Instinct加速器、EPYC CPU和Ryzen PRO CPU的全新解決方案陣容。

AMD董事長暨執行長蘇姿丰博士表示,資料中心和AI為AMD帶來了巨大的成長機會,採用EPYC和AMD Instinct處理器的客戶正持續增長,挹注著強勁的發展動能。憑藉全新的EPYC CPU、AMD Instinct GPU和Pensando DPU,我們正在提供領先業界的運算能力,為客戶最重要、最嚴苛的工作負載提供支援。展望未來,我們預計資料中心AI加速器市場至2028年將成長至5,000億美元。AMD致力於透過擴展的晶片、軟體、網路和叢集等級解決方案大規模地提供開放式創新。

定義AI時代的資料中心
AMD為AI、企業、雲端和混合式工作負載推出廣泛的資料中心解決方案組合:
  • 全新AMD EPYC 9005系列處理器提供破紀錄的效能,實現滿足不同資料中心需求的最佳化運算解決方案。AMD EPYC 9005系列處理器基於最新的“Zen 5”架構,提供多達192核心,即日起在各大OEM和ODM的多種平台上提供。
  • AMD持續履行年度AI加速器產品藍圖的節奏,推出AMD Instinct MI325X,為要求最嚴苛的AI工作負載提供領先的效能和記憶體功能。AMD也分享預計在2025年下半年推出的下一代AMD Instinct MI350系列加速器的新細節,擴展AMD Instinct在記憶體容量和生成式AI效能的領先優勢。AMD在開發基於AMD CDNA Next架構的AMD Instinct MI400系列加速器方面取得重大進展,計劃於2026年推出。
  • AMD持續推進AMD ROCm軟體堆疊,使AMD Instinct MI300X加速器在各種熱門的AI模型中的推論和訓練效能提升1倍。如今,超過100萬個模型在AMD Instinct上無縫運行且開箱即用,是MI300X推出時可用數量的3倍,並且為最廣泛採用的模型提供Day-0支援。
  • AMD亦擴展高效能網路產品組合,以滿足AI基礎設施不斷演變的系統網路需求,最大限度地提升CPU和GPU效能,從而在整個系統中提供效能、可擴展性和效率。AMD Pensando Salina DPU為AI系統提供高效能前端網絡,而首款UEC就緒的AMD Pensando Pollara 400 NIC可降低效能調整的複雜性,有助於縮短生產時間。

AMD合作夥伴展示如何運用AMD資料中心解決方案推動領先的生成式AI功能、提供數百萬人每天使用的雲端基礎設施,並為領先企業提供本地和混合式資料中心支援:
  • 自2023年12月推出以來,AMD Instinct MI300X加速器已被各大雲端、OEM和ODM合作夥伴大規模部署,每天為數百萬廣受歡迎之AI模型的使用者提供服務,包括OpenAI的ChatGPT、Meta Llama以及Hugging Face平台上超過100萬個開源模型。
  • Google重點分享AMD EPYC處理器如何為AI、高效能、通用型和機密運算等各種執行個體(instance)提供支援,其中包括其AI Hypercomputer,這是一款旨在最大化AI投資回報率的超級運算架構。Google也宣布搭載EPYC 9005系列的虛擬機器將於2025年初上市。
  • Oracle Cloud Infrastructure (OCI)分享如何運用AMD EPYC CPU、AMD Instinct加速器和Pensando DPU為Uber、Red Bull Powertrains、PayPal和Fireworks AI等客戶提供快速、節能的運算和網路基礎設施。OCI宣布推出搭載EPYC 9005處理器的全新E6運算平台。
  • Databricks展示其模型和工作流程如何在AMD Instinct和ROCm上無縫運行,並透露他們的測試顯示AMD Instinct MI300X GPU的大記憶體容量和運算能力有助於在Llama和Databricks專有模型上實現50%以上的效能提升。
  • 微軟執行長Satya Nadella分享微軟與AMD在產品和基礎設施方面的長期合作和共同創新,MI300X在Microsoft Azure和GPT工作負載上提供了強大的效能。Nadella與蘇姿丰博士也一同探討兩家公司在AMD Instinct藍圖上的深入合作關係,以及微軟計劃如何運用未來數代AMD Instinct加速器(包括MI350系列及未來版本)為AI應用提供領先業界的每瓦每美元效能。
  • Meta詳細介紹了AMD EPYC CPU和AMD Instinct加速器如何在AI部署和服務中為Meta運算基礎設施提供支援,並透過MI300X為Llama 405B上的所有即時流量提供服務。Meta也與AMD合作,從晶片、系統、網路到軟體和應用程式實現AI效能最佳化。
  • 戴爾、HPE、聯想和美超微(Supermicro)等各大OEM廠商正在擴展其基於高效能、高能效的AMD EPYC處理器產品陣容,推出旨在實現AI時代資料中心現代化的全新平台。

持續擴大開放AI產業體系
AMD持續推進開放式AI產業體系,並透過全新功能、工具、最佳化和支援以擴展AMD ROCm開源軟體堆疊,幫助開發人員從AMD Instinct加速器中獲取極致效能,並為當今的AI技術提供即時的支援。來自Essential AI、Fireworks AI、Luma AI和Reka AI的領導者探討了他們如何在AMD硬體和軟體實現模型最佳化。

AMD亦舉辦開發者大會,吸引來自微軟、OpenAI、Meta、Cohere、xAI等AI開發者產業體系的技術領導者。由對AI轉型至關重要的AI程式語言、模型和框架(例如Triton、TensorFlow、vLLM和Paged Attention、FastChat等)的發明者主持精彩演講,分享了開發人員如何透過廠商獨立(vendor-agnostic)的編程語言來解鎖AI效能最佳化、在AMD Instinct加速器上加速模型,並分享移植到ROCm軟體的簡易性以及產業體系如何從開源方法中受益。

透過AI PC提升企業生產力
AMD推出AMD Ryzen AI PRO 300系列處理器,為首款商用微軟Copilot+筆記型電腦挹注效能。Ryzen AI PRO 300系列處理器系列為企業用戶增加了企業級安全性和可管理性功能,擴展AMD在效能和電池續航力方面的領先地位。
  • Ryzen AI PRO 300系列處理器採用全新AMD “Zen 5”和AMD XDNA™ 2架構,是全球最先進的商用處理器。Ryzen AI 9 HX PRO 375處理器提供頂尖效能,實現無與倫比的生產力和領先業界的55 NPU TOPS AI效能,可在Ryzen AI PRO筆電上於本地處理AI任務。
  • 微軟分享Windows 11 Copilot+和Ryzen AI PRO 300系列如何為新一代AI體驗做好準備,帶來全新的生產力和安全功能。
  • HP和聯想等OEM合作夥伴正在透過搭載Ryzen AI PRO 300系列處理器的新型PC來擴展其商業產品陣容,預計到2025年將有超過100款平台上市。