长兴郴障科技有限公司

澎湃Logo
下載客戶端

登錄

  • +1

IBM稱光纖技術可以將人工智能訓練時間和能耗減少80%

2024-12-11 11:43
來源:澎湃新聞·澎湃號·湃客
字號

作者:Paul Gillin

IBM的研究人員表示,一個重要的原因是數據中心內部仍然主要依靠銅線而不是高速的光纖。

IBM杰出工程師John Knickerbocker表示:“我們估計GPU有一半的時間是在空轉。”“這白白耗費了大量的能量。”

現在,IBM表示已經在解決這一問題上取得了重大進展。該公司今天發布了一種新的協同封裝光學工藝,將光學元件與電子芯片直接集成在一個封裝內,從而實現了數據中心設備之間的光速連接。

該公司表示,它已建立并成功測試了基于聚合物光波導的互連器件,這種由聚合物材料制成的結構靈活輕便,可引導光線沿著一條路徑前進,并限制光信號,從而在保持信號完整性的同時最大限度地減少損耗。

與電氣互連相比,該模塊可以減少80%以上的能源需求,同時將數據中心內可連接組件的電纜從目前的一米延長至數百米。

IBM表示,這樣做的結果是,人工智能大型語言模型的訓練速度可提高五倍,同時,據其估計,每訓練一個模型可節省相當于5000個美國家庭一年的耗電量。

電力需求激增

IBM半導體部門總經理兼IBM研究院混合云研究副總裁Mukesh Khare表示:“在生成式人工智能和LLM出現之前,計算需求每20個月翻一番。”“自從LLM出現后,每6個月就會翻一番。”

電力消耗及其相應的碳足跡是人工智能經常被忽略的一個后果。國際能源機構今年早些時候估計,到2026年,處理人工智能和加密貨幣工作負載的數據中心的用電量可能會翻一番。屆時,這個數字將相當于日本的總耗電量。

聚合物光波導技術被廣泛應用于電信、數據通信和傳感領域,但在數據中心內卻從來不夠經濟實用。原因包括初始成本高、介質易碎、傳統系統中銅線占主導地位以及光纖的尺寸。

它們的直徑約為250微米,是人類頭發寬度的三倍,寬約四分之一毫米。這大大超過了電子電路所需的相應空間。

Khare表示:“雖然業界在制造越來越快的芯片方面取得了重大進展,但這些芯片相互通信的速度卻沒有跟上。”“這中間存在著幾個數量級的差距。”

IBM的研究人員利用PWG技術在芯片邊緣排列高密度的光纖束,使芯片能夠直接通過聚合物光纖進行通信。這種方法讓光纖與連接器之間的公差縮小到半微米或者更小,這被認為是成功的基準。

該公司表示,其新型光學結構使芯片制造商能夠在硅光子芯片邊緣封裝六倍于現在數量的光纖。每根光纖的跨度只有幾厘米,每秒可傳輸太比特級的數據。當為每個光通道傳輸配置多個波長時,CPO技術可將芯片間的帶寬提高80倍之多。

IBM表示,其工藝已將傳統光通道的尺寸縮小了80%,測試表明還可能進一步縮小,從而將帶寬提高1200%。

共同封裝的光學模塊已可投入商業使用,并將在IBM位于魁北克布羅蒙的工廠生產。

    本文為澎湃號作者或機構在澎湃新聞上傳并發布,僅代表該作者或機構觀點,不代表澎湃新聞的觀點或立場,澎湃新聞僅提供信息發布平臺。申請澎湃號請用電腦訪問http://renzheng.thepaper.cn。

    +1
    收藏
    我要舉報
            查看更多

            掃碼下載澎湃新聞客戶端

            滬ICP備14003370號

            滬公網安備31010602000299號

            互聯網新聞信息服務許可證:31120170006

            增值電信業務經營許可證:滬B2-2017116

            ? 2014-2025 上海東方報業有限公司

            反饋
            百家乐娱乐城足球盘网| 百家乐园搏彩论坛| 百家博彩网| 捷豹百家乐的玩法技巧和规则| 澳门百家乐官网网址多少| 大发888 客服| 百家乐神仙道官网| 百家乐官网群柏拉图软件| 大发888缺少casino组件common| 百家乐游戏策略| 百家乐官网官方游戏下载| 固原市| 大发888真人真钱| 百盛百家乐的玩法技巧和规则| 大世界百家乐娱乐城| CEO百家乐官网娱乐城| 百家乐官网游戏源码手机| 百家乐官网游戏平台架设| 彩票大赢家| 大发888游戏充值50| 百家乐试玩1000元| 百家乐现金平台排名| 百家乐官网筹码防伪套装| 百家乐官网有几种打法| 大发888游戏平台17| 大发888怎么玩才赢| 百家乐规| 尊龙百家乐娱乐| 百家乐侧牌器| 新澳博百家乐娱乐城| 百家乐视频游戏网站| 线上百家乐官网怎么玩| 百家乐官网的必赢方法| 工布江达县| 皇冠投注网站| 快乐之都| 拉斯维加斯娱乐| 新泰市| 百家乐官网有几种玩法| 游戏厅百家乐官网软件| 百家乐官网棋牌游戏正式版|