英特爾在 Vision 2024 大會上,宣布推出Intel Gaudi 3 AI加速器,與前代產品相比,Gaudi 3 為 BF16 提供 4 倍 AI 運算能力、1.5 倍記憶體頻寬以及 2 倍網路頻寬,可擴充大規模系統,將有助大型語言模型(LLM)和多模態模型的 AI 訓練和推理,大幅提升效能和生產力。
Intel Gaudi 2 AI 加速器是市場上唯一通過 MLPerf 基準測試的 LLM 解決方案,效能和效率皆通過驗證。英特爾透過開源社群軟體和符合業界標準的乙太網絡,為客戶提供可靈活擴充系統的新選擇。
英特爾執行副總裁暨資料中心與 AI 解決方案總經理 Justin Hotard 表示:「AI 市場瞬息萬變,但產品間仍存在巨大差距。不論是來自客戶還是更廣泛市場的回饋,皆反映對更多選擇的渴望。企業須權衡可用性、可擴充性、效能、成本和能源效率等因素。Intel Gaudi 3 作為生成式 AI 的新選擇,憑藉性價比、系統可擴充性和時間成本優勢的完美結合脫穎而出。」
金融、製造和醫療保健等關鍵領域的企業,目前正快速提升 AI 的普及化,並積極將生成式 AI 計畫從試驗階段轉為全面實施。為了因應轉型、推動創新並達成營收成長目標,企業需要開放、符合成本效益且更節能的解決方案和產品,以符合投資報酬率(ROI)和營運效率需求。
Intel Gaudi 3 加速器將滿足這些需求,並透過開放社群軟體和開放標準的乙太網路,協助企業靈活擴充 AI 系統和應用。
客製化基礎架構如何提升生成式 AI 效能和效率:Intel Gaudi 3 加速器專為高效的大規模 AI 運算打造,採用相較前一代產品更先進的 5 奈米製程。其設計允許同時啟動所有引擎以提升速度,包括矩陣乘法引擎(MME)、張量處理器核心(TPC) 和網路介面卡(NIC),進而實現更高速、高效的深度學習運算和規模擴充。Gaudi 3 加速器的主要特點包括:
Intel Gaudi 3 加速器將為領先生成式 AI 模型的訓練和推理,帶來顯著的效能提升。與 Nvidia H100 相比,Gaudi 3 加速器的平均效能預期將為:
Intel Gaudi 3 加速器將於 2024 年第二季,向 OEM 提供通用基板和開放加速器模型(Open accelerator module, OAM)的業界標準配置。包含戴爾科技、慧與科技(HPE)、聯想和美超微等知名 OEM,都將採用 Gaudi 3。Intel Gaudi 3 加速器預計於 2024 年第三季全面上市,Intel Gaudi 3 PCIe 附加卡預計於 2024 年第四季上市。
▲ 英特爾打破使用限制,為企業生成式 AI 市場提供新選擇
Intel Gaudi 3 加速器也將支援多個高成本效益 LLM 基礎架構,協助訓練和推理,並為包括 NAVER 在內的組織提供性價比優勢和選擇。
開發者從今日起即可存取 Intel Developer Cloud 上以 Intel Gaudi 2 為基礎的實例,以學習、建立原型、測試和執行應用程式與工作負載。
Intel Gaudi 3 加速器的發展將為英特爾下一代針對 AI 和高效能運算的 GPU Falcon Shores 奠下基石。Falcon Shores 將整合 Intel Gaudi 和 Intel Xe 的智慧財產權(IP),以及建立在 Intel oneAPI 規範的單一 GPU 可程式化界面。
加入T客邦Facebook粉絲團 固定链接 '英特爾打破使用限制,為企業生成式 AI 市場提供新選擇' 提交: April 14, 2024, 7:00pm CST