中國電子元件行業(yè)協(xié)會(huì )
China Electronic Components Association
Marvell Technology, Inc. 近日宣布其在共封裝光學(xué)（Co-Packaged Optics，CPO）技術(shù)上的重要進(jìn)展，用于定制AI加速器（XPU）?；谧罱l(fā)布的高帶寬內存（HBM）計算架構，Marvell正在擴展其定制硅片領(lǐng)導地位，通過(guò)讓客戶(hù)將CPO無(wú)縫集成到下一代定制XPU中，實(shí)現從當前單個(gè)機架內數十個(gè)XPU使用銅纜連接，到跨多個(gè)機架數百個(gè)XPU使用CPO連接的轉變，從而顯著(zhù)提升AI服務(wù)器性能。
??Marvell的創(chuàng )新架構使云超大規模供應商能夠開(kāi)發(fā)出更高帶寬密度的定制XPU，并在單一AI服務(wù)器內實(shí)現更遠距離的XPU間連接，同時(shí)保持最優(yōu)的延遲和功耗效率。此架構現已可用于Marvell客戶(hù)的下一代定制XPU設計中。
??Marvell的定制AI加速器架構將XPU計算芯片、HBM和其他Chiplets與Marvell 3D SiPho引擎結合在同一襯底上，采用高速SerDes、模對模接口和先進(jìn)封裝技術(shù)。這一做法消除了電信號需要離開(kāi)XPU封裝進(jìn)入銅纜或穿過(guò)印刷電路板的需求。通過(guò)集成光學(xué)組件，XPU之間的連接可以實(shí)現比傳統電氣線(xiàn)纜快百倍的數據傳輸速率和距離，使得AI服務(wù)器內的擴展連接能夠跨越多個(gè)機架，同時(shí)保持最佳的延遲和功耗。
??CPO技術(shù)將光學(xué)組件直接集成在一個(gè)封裝內，最小化電路徑長(cháng)度。這種緊密耦合大大減少了信號損失，增強了高速信號完整性，并降低了延遲。CPO通過(guò)利用高帶寬硅光子學(xué)光學(xué)引擎來(lái)提高數據吞吐量，相比傳統銅連接，這些引擎提供更高的數據傳輸速率且不易受電磁干擾影響。此外，它還通過(guò)減少對高功率電驅動(dòng)器、重定時(shí)器的需求來(lái)改善功耗效率。CPO技術(shù)通過(guò)啟用更長(cháng)距離和更高密度的XPU至XPU連接，促進(jìn)了高性能、大容量的可擴展AI服務(wù)器的發(fā)展，優(yōu)化了下一代加速基礎設施的計算性能和功耗。
??在OFC 2024上首次亮相的Marvell 3D SiPho引擎，是業(yè)內首款支持200Gbps電接口和光接口的技術(shù)，為將共封裝光學(xué)（CPO）集成到XPU中提供了基礎構建模塊。Marvell的6.4T 3D SiPho引擎是一個(gè)高度集成的光引擎，它集成了32個(gè)通道的200Gbps電接口和光接口，以及包括調制器、光電探測器、調制器驅動(dòng)器、跨阻抗放大器、微控制器在內的數百個(gè)組件，以及其他眾多無(wú)源組件，所有這些都被整合到一個(gè)統一的設備中，從而實(shí)現了相比100Gbps接口的同類(lèi)設備兩倍的帶寬、兩倍的輸入/輸出帶寬密度，并且每比特功耗降低了30%。目前，多家客戶(hù)正在評估這項技術(shù)，考慮將其集成到下一代解決方案中。
