北京2024年10月29日 /美通社/ -- 當前，隨著生成式人工智能和各行業的應用快速融合，大模型在企業端被越來越多的采用，以提高效率、降低成本、增強創新能力。大模型開發首先要解決的，便是訓練環境的搭建問題，在算力多元異構、依賴庫眾多、配置步驟繁瑣的情況下，如何快速搭建滿足要求的訓練環境，為底層算力平臺匹配最佳驅動，避免依賴庫及配置龐雜導致訓練環境魯棒性低的問題，成為各類大模型開發企業需要面對的挑戰。

為此，浪潮信息推出「元腦服務器操作系統KOS Al定制版」（簡稱KOS Al定制版），通過簡單2步即可實現大模型訓練環境部署，以搭建200節點訓練環境為例，過往需要數天時間才能完成，通過KOS AI定制版20分鐘即可完成上線可用，極大提升了大模型開發部署效率。

大模型訓練環境復雜 面臨兼容適配等多項挑戰

當前階段，大模型的發展仍然遵循Scaling Law，不斷增加的參數規模、訓練數據量以及計算資源，也讓大模型的部署環境變得十分復雜。大模型部署是一個系統性的問題，涉及到算力設備兼容、依賴庫配置、繁瑣的安裝步驟等等多個方面。

• 在硬件方面，算力設備的多樣性增加了兼容適配復雜性。在大模型訓練環境中，集成了多種類型和規格的算力設備，如不同型號的GPU、高速互連網絡、高性能分布式存儲等。這些設備在硬件架構、指令集和接口標準上存在差異，導致與操作系統、應用軟件以及其他硬件設備的兼容適配變得極為復雜，同時驅動和應用軟件選型不當將影響算力輸出效率。
• 在軟件方面，依賴庫及配置的龐雜性對訓練環境的魯棒性構成威脅。大模型訓練依賴大量的軟件庫、框架和配置參數，這些依賴項之間存在著復雜的依賴關系和嚴格的版本兼容性要求。一旦某個依賴項出現問題，如版本不匹配、配置錯誤或缺失，都可能導致訓練環境崩潰或性能急劇下降。
• 在部署方面，大模型訓練環境搭建流程比較繁瑣。算力支持層面，在確定GPU、網卡等硬件設備基礎上，需要安裝操作系統、下載硬件驅動并對驅動進行編譯；應用軟件方面，下載安裝CUDA、Cudnn、DCGM等AI軟件棧，以及相關管理和監控軟件。最后，還要運行相關Benchmark對系統進行性能摸底。

KOS Al定制版  "2步"搞定大模型訓練環境部署

針對用戶在大模型部署中遇到的困難，浪潮信息推出KOS Al定制版，實現了覆蓋驅動和應用軟件編譯、鏡像文件構建、系統發布與部署的鏡像開發全流程創新， 解決了部署大模型訓練環境中遇到的硬件兼容適配、依賴項龐雜及安裝部署流程繁瑣等問題，讓大模型部署化繁為簡。

針對硬件兼容適配挑戰，浪潮信息KOS技術團隊憑借深厚的技術沉淀和經驗積累，遴選出十余款GPU和infiniband卡的最佳驅動，驗證不同硬件環境下的軟件兼容性，優化BIOS、底層驅動、文件系統和網絡等多項指標，實現平臺資源利用效率最大化。目前KOS已經與1200+硬件板卡、250+服務器整機、400+數據庫中間件完成兼容性認證。

面對軟件依賴庫龐雜的問題，KOS Al定制版對鏡像構建過程中的軟件包安裝列表進行了擴展，并優化了軟件包的集成范圍和安裝順序，解決軟件安裝依賴問題，確保在集成大量軟件的情況下，操作系統能夠順利完成安裝，且保證系統安裝完成后，驅動和應用軟件能夠正常進行編譯和安裝。同時，面對AI大模型訓練過程中某些應用軟件體積龐大，無法直接構建為rpm包集成至鏡像的挑戰，采用"軟件切割與再聚合"技術，將超大型軟件包進行分割，并在聚合后校驗其哈希值，以確保軟件的一致性，從而有效解決了超大軟件集成難題，實現了超大應用軟件的自動化安裝。

大模型部署的關鍵是單節點環境配置。在簡化發布與部署方面，為了解決大模型訓練集群單節點環境配置復雜的問題，KOS技術團隊開發了一套環境配置自動化部署腳本。該腳本能夠智能檢測操作系統的啟動狀態，只在系統安裝完成后的首次重啟時自動運行，確保在不同節點上快速部署大模型運行環境。在此之后的系統啟動中，該腳本將不再執行，從而實現集群環境中單節點環境的自動部署。

用戶依托KOS AI定制版，僅需2步即可實現大模型訓練環境快速部署。

步驟1：利用PXE實現自動化系統部署

KOS AI定制版集成了大模型訓練環境部署所需的驅動、應用軟件和依賴庫等，用戶只需要把該定制版鏡像當作普通鏡像一樣進行自動化部署，通過PXE方式實現操作系統自動化安裝。

步驟2：正常開機啟動，完成環境部署

定制版鏡像安裝完成后，通過管理節點向計算節點下發重啟指令，計算節點重啟后，大模型訓練環境部署即可完成。

面對操作系統與AI結合的趨勢，KOS定位智算時代最AI的操作系統，全面優先擁抱AI，深度融合AI能力。KOS Al定制版簡化了大模型部署流程，通過Al定制版部署大模型訓練環境具有簡單高效、廣泛兼容和運行穩定等特點，大幅降低了用戶開發大模型的技術門檻。