北京2024年4月26日 /美通社/ -- 近日，在IPF2024上，浪潮信息正式發布了專門面向生成式AI的超級AI以太網交換機——X400，這是國內首款基于NVIDIA Spectrum-X平臺打造的以太網交換機，吞吐量達業界最高的51.2T，較上一代產品提升了4倍，在4U空間可提供128個400Gb/s 的高速網絡端口，在其高吞吐量、低延遲、高可靠性等優勢的加持下，比傳統的RoCE網絡性能提升了1.6倍，為大規模算力提供領先的AI網絡性能。
超級AI以太網交換機X400是雙方聯合創新的結晶，專門面向生成式AI打造，X400在標準以太網絡上實現了與專用網絡架構相當的網絡性能，確?？蛻粢愿硐氲姆绞浇ㄔO網絡基礎設施，這將極大提升AI模型迭代與業務創新的速度。
目前，我們面臨的用于人工智能基礎模型的計算能力不足、訓練成本高等問題，原因之一就是傳統網絡的效率低下，導致GPU多節點間通信時的效率偏低。在訓練基礎模型中，網絡通信往往占到20%到40%的時間，在進行梯度和參數同步時，浪費了寶貴的GPU資源。
面向這種生成式AI場景的網絡互連瓶頸，會上發布首款專門面向AI的以太網交換機X400，采用了NVIDIA的Spectrum-4 交換芯片，這是NVIDIA的第五代以太網交換芯片，助力X400達到了業界領先的數據包處理速率、全線速性能和超低直通（pass-through）延遲，通過動態路由（Adaptive Routing）和增強擁塞控制技術，實現了95%以上的以太網網絡利用率，處于業界領先，依托完全共享的數據包緩沖區架構，動態地為所有端口提供公平且無瓶頸的數據路徑，成為構建面向AI場景的高性能RoCE網絡的理想產品，滿足生成式AI、大型語言模型、推薦系統、視頻分析等帶寬密集型應用的超高網絡性能需求。
超級AI以太網交換機X400是一款采用開放架構設計的高性能AI交換機，實現了軟硬件的分層解耦，基于百度、阿里、騰訊等云計算廠商聯合制定的S3IP開放標準，支持開源SONiC及第三方網絡OS，實現了業務應用和網絡協議的靈活拓展，滿足了不同客戶對交換機的定制化需求。同時，為保證用戶AIGC網絡的穩定性，X400搭載了獨創的IGE智能防護引擎，提供關鍵部件偵測、軟件關鍵進程監控、內存糾錯、雙Flash冗余切換等多種故障預防機制，實現了對設備的全面可靠性保護。此外，X400還搭載集監控和配置于一體的O&M智能運維平臺，支持Spectrum-4 的WJH（what just happened）功能，通過底層芯片和軟件工具收集數據包粒度的可見性數據和事件觸發信息，實時掌握網絡與設備的健康狀況，結合創新的故障自愈技術，極大地提升了網絡設備的高可用性，助力客戶構建可視、可控、可靠的AI大模型訓練網絡。
方案層面，超級AI以太網交換機 X400基于開源SONiC研發的UXOS網絡操作系統、NVIDIA BlueField-3 SuperNICs等，為用戶構建面向生成式AI場景的端到端高性能網絡解決方案 AI Fabric，組網規?？蓮椥詳U展至51.2萬個GPU的超大規模AI系統，憑借AR動態路由、端到端擁塞控制、亞毫秒級故障自愈等技術，性能提升至傳統RoCE網絡性能1.6倍，達到以太網RoCE的性能極限，實現了AI網絡的超高吞吐量、高可擴展性和超高可靠性。測試數據表明，該方案能顯著提升大模型訓練性能，相比傳統RoCE網絡方案，這種AI網絡的帶寬利用率超過95%，通信時延降低30%，NVIDIA Megatron-LM大模型訓練速度最高可以提升70%，大幅縮短訓練時長并降低訓練成本。
