IBM在光學(xué)技術(shù)方面獲得新進(jìn)展,有望提升數據中心訓練和運行生成式AI模型的效率。
據報道,IBM推出了新一代光電共封裝(CPO)工藝。該技術(shù)利用光學(xué)連接,實(shí)現了數據中心內部的光速數據傳輸,大大補充了現有的短距離光纜系統,有望重新定義計算行業(yè)在芯片、電路板和服務(wù)器之間的高帶寬數據傳輸,以及最大限度地減少GPU停機時(shí)間,同時(shí)大幅加快AI工作速度。
據悉,這一新技術(shù)具有顯著(zhù)優(yōu)勢。首先,極大地降低了規?;瘧蒙墒紸I的成本。與中距離電氣互連裝置相比,光電共封裝技術(shù)的能耗降低了五倍以上。其次,該技術(shù)顯著(zhù)提高了AI模型的訓練速度。與傳統的電線(xiàn)相比,使用光電共封裝技術(shù)訓練大型語(yǔ)言模型的速度幾乎提升了五倍。此外,光電共封裝技術(shù)還可顯著(zhù)提升了數據中心的能效。