看板 uefacool
作者 標題 [COMM] 快又省電 光通訊賦能AI基礎設施-NIC CPO
時間 2026-01-16 Fri. 14:14:56
快又省電 光通訊賦能AI基礎設施
2025-12-05
作者 Anthea Chuang
對於AI技術來說，收集到的資料精確度，CPU、GPU的處理效能…等，是AI技術能否實現眾多創新應用的主要因素，不過，通訊技術也是左右AI「好壞」的關鍵要素之一。
若是算力擔當的xPU與加速器叢集之間的聯絡，或是板端間的傳輸效能不佳，勢必也會影響AI技術的實現。將網路視作運算效能要素的博通(Broadcom)，近期推出第三代共同封裝光學(CPO)產品，以及乙太網路介面卡(NIC)，除解決目前AI伺服器資料傳輸瓶頸外，也能進一步降低AI資料中心所消耗的能源，並進一步以滿足當前AI資料中心對垂直與水平擴充網路的需求。
博通光學系統部門行銷與營運副總裁Manish Mehta表示，傳輸頻寬對AI市場很重要，CPO光通訊技術優勢包括高速、能耗低、高效能…等，目前市場已經開始了解其所帶來的好處，因此隨著資料中心部署AI叢集的推進，CPO真正迎來了具有實際應用價值的關鍵節點。
而博通自2021年即推出第一代CPO產品，並於2022年開始出貨，2024年推出的第二代CPO產品Tomahawk 5 Bailey，輸出頻寬高達51.2TB，透過CPO元件實現了真正提高光互連的整合密度，且無需使用大量的獨立光收發器，而是將大部分頻寬整合到高度整合的矽光子引擎中。透過這種方式，可以將這些光引擎與核心ASIC整合到同一個封裝中，從而顯著降低光互連的功耗。
日前，博通發佈了第三代CPO產品Tomahawk 6 Davison。Mehta介紹，第三代產品的交換器頻寬從51.2TB提升至102.4TB，並將每通道速率從100GB提升至200GB，且博通CPO解決方案是基於該公司在乙太網路平台上開發的所有技術，因此具有開放、可擴展和節能等特性。
此外，博通也持續建構並擴展成熟的合作夥伴生態系統，包括台灣，例如先前博通宣佈與台積電(TSMC)就Tomahawk 6 Davidson世代的COPUE (Compact Universal Photonic Engine)製程進行密切合作。Mehta也透露，博通正在研發第四代CPO產品。
英飛凌氮化鎵電晶體 – 高速切換 低開關損耗 多種封裝
在乙太網路方面，博通近期推出了800G AI乙太網路介面卡Thor Ultra。博通軟體暨生態系主管Hasan Siraj開宗明義指出，網路I/O對於推薦工作負載(Recommendation Workload)至關重要，他並舉出Meta在CPO大會中提出的例子進一步說明。
大約2~3年前ChatGPT開始風靡全球，Meta也開始嘗試訓練推薦模型，這也是為什麼使用者在打開Facebook或Instagram時，會收到很多關於廣告和朋友推薦的原因，這就是該模型的主要用途。但[b]Meta發現在高達57%的時間裡，流量都卡在了網路中[/b]，這也意味著，即使網路的支出佔總體AI資料中心的投資比例不高，但若基礎建設的使用率低於50%，龐大的投資可以說形同「打水漂」。
這也是博通致力為產業解決的問題，並推出了多款產品。Siraj表示，Tomahawk Ultra乙太網路介面卡在負載平衡和壅塞控制方面實現了跨越式的創新。
尤其目前整體AI基礎設施xPU的數量已經達到15萬個，而且在未來2~3年內，還將達到50萬個，甚至最終發展到擁有百萬個xPU的超級集群的規模時，其中一項亟需完成的基本工作是對「古老」且有限制的RDMA進行現代化改造。
Thor Ultra具備先進高性能先進基於融合乙太網路的RDMA (RoCE)特性，並符合超乙太網路聯盟(Ultra Ethernet Consortium，UEC)技術規範。
(來源：博通)
Siraj說明，博通AI乙太網路介面卡是首個支援800G單一資料流的產品，針對AI工作負載進行最佳化，功耗僅為50瓦，可說與功耗可能高達100瓦以上的智慧網卡截然不同。且與Tomahawk 6一樣，也提供100GB系列和200GB系列兩種選擇，以確保能夠滿足當前網路的需求，還能為未來的網路做好準備。
本文同步刊登於《電子工程專輯》雜誌2025年11-12月號
--
※ 作者: uefangsmith 時間: 2026-01-16 14:14:56 (台灣)
※ 編輯: uefangsmith 時間: 2026-01-16 14:21:37 (台灣)
※ 看板: uefacool 文章推薦值: 0 目前人氣: 0 累積人氣: 15
回列表(←)
分享