- +1
英特爾推出新款AI芯片:推理性能比英偉達H100快50%

美國當地時間4月9日,英特爾在面向客戶和合作伙伴的英特爾on產業創新大會上,英特爾CEO帕特·基辛格亮出了最新AI芯片——Gaudi 3。
英特爾表示,Gaudi 3 AI加速器可通過以太網的通用標準連接多達數萬個加速器。與上一代產品相比,英特爾Gaudi 3將帶來4倍的BF16 AI計算能力提升,以及1.5倍的內存帶寬提升。該加速器將為尋求大規模部署生成式AI的企業帶來AI訓練和推理方面的重大飛躍。
英特爾Gaudi 3預計可大幅縮短70億和130億參數Llama2模型,以及1750億參數GPT-3模型的訓練時間。
英特爾表示,Gaudi 3能夠比英偉達上一代H100處理器訓練特定大型語言模型的速度快40%,在推理端比英偉達H100快50%。
基辛格在現場表示,Gaudi 3的性能將與英偉達H200相當,在某些領域的性能甚至會更好。但是他沒有給出具體數據。
值得注意的是,外媒指出,H100是英偉達Hopper產品線中的老款芯片,在2022年發布。英偉達在去年又發布了H200,將于今年二季度正式開售,2024年3月英偉達展示了新的Blackwell B100和B200芯片。
英特爾表示,Gaudi 3已經在Meta大模型Llama上做了測試,可以有效地訓練或部署AI大模型,包括文生圖的Stable Diffusion和語音識別的Whisper等等。
在現場,基辛格也展示了集成最新英特爾芯片的AI PC,能夠快速處理的多項任務,例如快速處理郵件、語音處理、圖像渲染等。
據了解,英特爾Gaudi 3采用臺積電5納米工藝制造。英特爾Gaudi 3將于2024年第二季度面向OEM廠商出貨,包括戴爾、惠普和超微電腦在內的公司將使用該芯片。
當天,英特爾還分享了企業AI各細分領域的下一代產品和服務的最新信息。英特爾為面向數據中心、云和邊緣發布了下一代處理器英特爾至強6。配備能效核(E-cores)的英特爾至強6處理器將于2024年第二季度推出,配備性能核(P-cores)的英特爾至強6處理器將緊隨其后推出,帶來更高的AI性能。
英特爾想要打造一個廣泛的AI生態聯盟,推動企業在AI領域創新。
英特爾概述了面向開放的、可擴展的AI系統的戰略,其中包括硬件、軟件、框架和工具。當天,英特爾聯合多家公司宣布,將創建一個開放平臺助力企業推動AI創新。這一計劃旨在開發開放的、多供應商的生成式AI系統,通過RAG(檢索增強生成)技術,提供部署便利性、性能和價值。RAG可使企業在標準云基礎設施上運行的大量現存專有數據源得到開放大語言模型(LLM)功能的增強,加速生成式AI在企業中的應用。
進入4月以來,英特爾股價累計跌幅超過13%。外媒指出,新的人工智能芯片能否幫助英特爾找到股價上漲的動能值得關注,在9日盤中,英特爾一度下跌1.7%,或創出約三年半來最差六日表現,但在發布新的芯片后,英特爾股價開始上漲。截至9日美股收盤,英特爾收漲0.92%,市值1632億美元,





- 报料热线: 021-962866
- 报料邮箱: news@thepaper.cn
互联网新闻信息服务许可证:31120170006
增值电信业务经营许可证:沪B2-2017116
© 2014-2025 上海东方报业有限公司