北京2023年8月31日 /美通社/ -- 進入2023年，ChatGPT推動世界步入一個全新時代——大模型時代，它不僅引發了AI產業的整體升級換代，同時也讓各種大模型層出不窮，背后的關鍵原因在于，大模型能普遍提升生產力，而業內眾多公司也都在積極尋找應用大模型和生成式AI的機會，希望在產業端有所作為。

確實如此，ChatGPT之所以被稱為AI的"iPhone時刻"，源于ChatGPT為代表的生成式AI能夠讓每個人命令計算機解決問題成為了可能，其可對生產工具、對話引擎、個人助理等各類應用，起到協助人、服務人甚至超越人的角色，而憑借這項革命性的技術突破，ChatGPT在搜索引擎與各類工具軟件中率先掀起應用熱潮，并引起了行業用戶對ChatGPT相關技術的關注與學習。同時，海量下游應用也因此捕捉到新的技術與產業機會，希望通過各類大模型與工程化能力，將類ChatGPT產品能力輸送到原有的應用中，更好的賦能企業的數智化轉型。

但也要看到，要讓大模型從"已有"走向"可用"并不是"一蹴而就"的過程，更多的企業通常會面臨數據資源有限、算力投資難度大、模型泛化能力差、高水平人才稀缺的發展瓶頸。也正因此，對更多的企業來說，未來更加"務實"的做法，就是選擇適合自己的大模型服務商，"站在巨人的肩膀上"，更好地"用好"大模型。

正是洞察到這種迫切的市場需求，作為數字化轉型的實踐者和賦能者，軟通動力近年來始終堅持以全棧式數字技術為行業客戶創造價值，特別是在大模型領域，軟通動力也在積極地探索與實踐，希望憑借自身在AI基礎設施、AI專業人才，AI生態以及在通用領域和專用服務領域沉淀的豐富應用實踐，為行業客戶提供大模型落地的專業服務，打通大模型落地"最后一公里"，更好地加速千行百業擁抱大模型的新時代。

大模型落地的四重挑戰

毫無疑問，幾乎沒人會懷疑大模型對未來的顛覆性影響。但現實是，國內對大模型的探索仍處于早期階段，無論在研發、迭代還是使用階段，大模型都是一個消耗資源巨大、使用成本也不低的"奢侈品"。除了成本居高不下之外，企業想要在實際業務場景中部署使用大模型，還面臨著數據、參數調優、人才等諸多的落地難題。

對此，軟通動力數字化創新服務線副總裁霍宇表示，今年以來軟通動力積極在大模型領域探索與實踐，發現大模型要落地到行業和企業之中所面臨的挑戰非常之多，可以從幾個維度來做觀察：

一是，從算力的維度看，訓練大型模型需要大量的計算資源和資金投入，這對于眾多的企業是巨大的挑戰。"公司今年在大模型基礎算力方面的投入預計將會近億元，未來還會持續。在這個領域，如果需要形成有競爭力的產品或者方案，上千萬的資金投入只能算是起步門檻，可以說大模型的算力和訓練成本極高，這也包括現在經常提到的行業大模型，垂直領域大模型，所以說算力方面就是一個躲不過去的高門檻。"霍宇表示。

二是，從數據的維度看，以生成式AI來說，訓練的語言模型就需要具有更高的豐富度和復雜性，才能更好地理解和生成各種語言表達形式。例如，不同的語言有不同的句法結構、詞匯使用規律、語義關系等特點，因此訓練模型需要包括更多的語言知識和規則，以適應這些差異。同時，不同的語言還可能包含一些特殊的表達方式、文化背景等，訓練模型還需要考慮這些因素，以更好地模擬和生成各種語言表達形式。不僅如此，為了提高模型的豐富度和能力，還需要使用更加大規模、多樣化、真實的語言數據集，以提高模型的泛化能力和豐富性，使其能夠更好地適應各種語言場景和應用需求。

在霍宇看來，大模型訓練的語料問題本質上就是企業的數據治理的問題，一方面要求企業必須要獲取大量可用和可信的數據；另一方面，數據還需要經過治理，形成結構化和標準化的數據，從而更好的訓練出所需要的大模型服務。

三是，從算法的維度看，AI模型的發展從AlexNet發布開始，隨后的研究多數是圍繞著模型的深度和廣度探索，發展至今已有BERT、 GPT等典型模型出現，也掀起了預訓練模型的熱潮，目前國內的大模型參數也已經攀升至千億、萬億級別，其準確度也在不斷的刷新 SOTA。

但與此同時，對于企業而言，如何選擇合適自身的預訓練模型，如何在具體場景和任務下，基于成熟的大模型進行微調能夠快速地產生準確結果，以及究竟是選擇商用還是開源的大模型服務，如何平衡成本和訓練效果，同樣也是非常讓人"頭疼"的問題。

四是，從人才維度看，隨著越來越多的企業開始廣泛應用大模型，相關的人才需求也成為了新的挑戰。以在人工智能產品實際使用過程中進行數據庫管理、算法參數設置、人機交互設計、性能測試跟蹤及其他輔助作業的AI訓練師為例，相關數據顯示，這類人才目前就出現了大量的"缺口"亟待滿足。
不難看出，雖然我們已經見證了大模型開始與場景、行業進行深度融合并取得了不錯的成績，驗證了大模型已不僅在科技企業中應用，也邁出了走向千行百業的步伐，但大模型的落地并不是一件簡單的事情，仍需要解決好算力、數據、算法、人才等方面帶來的全新挑戰。

以服務入局大模型賽道

基于此，從今年年初開始，軟通動力就積極布局大模型賽道，不僅投資建設AI算力基礎設施，同時也站在服務和落地的視角，希望能夠憑借自身在AI人才資源，AI平臺工具，AI合作生態以及"躬身實踐"中沉淀的經驗和方法論，和行業客戶共創能夠落地的大模型服務，更好地幫助企業迎接大模型時代的到來，具體來說：

首先，在AI人才資源方面，這是軟通動力在大模型賽道中獨具特色的優勢。公司憑借十余年的技術積累和行業經驗沉淀，通過將自身的服務能力橫向拉通、整合之后，目前不僅能夠為行業客戶提供"全棧化"的數字技術服務，同時更積累了一大批高質量的數字化人才。

"我們的第一個切入點就是AI人才方向，投入專門的算力平臺作為培養工程師上手并熟悉大模型的工程實踐環境，能夠讓相關開發語言的工程師和架構師更快更熟練玩轉大模型，希望通過對算力及人才的投資，讓他們能夠把大模型從產品到落地應用之間的鏈條打通，成為大模型領域的專家。而在未來，這批專家資源的能力不僅可以傳遞給更多的員工；另一方面，對企業來說，也可以直接獲得專家資源的幫助，直接進行企業所需要的大模型開發或者提供參數調優等相關的服務。"霍宇說。

其次，在AI平臺工具方面，軟通動力也打造了軟通天璇2.0 MaaS 平臺。據介紹，基于產業服務需求，軟通天璇2.0 MaaS平臺在整合軟通行業模型管理平臺（iSS Model Ops Platform）、軟通應用開發平臺（iSS Model Dev Tools）、軟通場景Plugin應用服務平臺（iSS Model Plugin Store）等產品的基礎上，能夠為客戶提供大模型的數據處理、大模型一站式運營服務、繼續訓練、調優、部署、推理和數字資產管理、數據安全等服務。值得一提的是，軟通動力全新升級的訓推一體化平臺，基于昇騰硬件底座，采用軟通G420K訓練平臺和軟通G210K推理平臺，整合歐拉操作系統等組件，搭載自有AI中臺，能夠為用戶提供多種交互式AI模型，深度適配不同AI應用場景，在央國企、教育科研、金融等多行業多領域都可以應用。

第三，在AI合作方面，軟通動力與行業內頭部和主流大模型廠商都建立了生態向的合作。不僅率先接入了微軟Azure云 GPT4，并且也是百度文心一言、華為云盤古大模型、阿里通義千問、元乘象ChatImg2.0的生態合作伙伴，同時也在積極深研諸如ChatGLM、DeepSpeed Chat、OpenAssistant、Alpaca、LLaMA等開源大模型。
霍宇認為，軟通動力在AI合作生態方面全方位的"布局"，最大的價值在于團隊通過使用這些第三方的商用大模型服務，以及開源大模型，沉淀了不少的經驗和方法論，而這些實踐和經驗，對行業客戶落地大模型也是具有極高的參考價值和借鑒意義的，可以避免企業在大模型落地過程中少走"彎路"，這也是一種較為"穩妥"的落地方式。

最后，是大模型落地實踐方面，軟通動力也正在和行業客戶通過"共創"的形式，更好地推動企業擁抱大模型時代。
"現在不少行業客戶都找到軟通，他們認為目前如果企業自己要搞一套大模型是有困難的，這些行業客戶的優勢在于他們有不少的行業數據，但是并不知道如何讓這些數據更好地實現語料化，或者如何讓大模型在節省算力的基礎上，更快地實現訓練或者推理等等。除此之外，搭建行業大模型，前期的規劃以及選型，也是一道門檻，而這些正是軟通動力擅長的工作，因此雙方可以通過共創的形式，共同推進大模型的落地，目前公司已經和不少的銀行和保險行業的客戶展開相關的合作。"霍宇說。

正如IDC最新發布的《AI大模型技術能力評估報告，2023》中提到的："對于行業用戶來說，在關注廠商大模型技術棧完備性的同時，應著重考察廠商的產業應用經驗積累，主要發力點應集中在應用層，將技術應用到實際業務場景中，提前布局，積累行業、場景經驗和數據，由此才能‘站在巨人的肩膀上'打造差異化競爭優勢。"從這個角度來說，軟通動力在大模型服務領域積累的四大優勢，無疑可以更好地幫助企業擁抱大模型，加速企業的數智化轉型。

打通落地"最后一公里"

事實上，軟通動力以服務模式"卡位"大模型賽道，本身也是深思熟慮和審慎考量的結果。

霍宇告訴我："當大模型浪潮襲來之時，我們首先否決掉的就是自己下場做通用大模型平臺，更多還是考慮從行業大模型的賽道入手，但深入研究之后又發現，要做行業大模型，垂直行業中的數據和語料也至關重要。因此,作為一家服務型的公司，軟通動力以服務的模式切入這個市場是最為合適的，我們可以通過專家資源、平臺工具，以及經驗和方法論，加上行業客戶手中的數據資源，雙方以共創的形式合作，是能夠以較快方式實現大模型落地的。"

同樣，以"服務"模式入局大模型賽道，也讓軟通動力能夠以更加"全局"的視角來觀察和看待整個大模型市場，并從中沉淀和總結出了不少大模型落地中值得重視的關鍵事項。

第一，是關于開源和商用大模型的選型問題。對此，霍宇認為，基于業務的需求情況，中國企業也會像選擇公有云和私有云部署那樣，既會選擇直接接入商用大模型，也會選擇基于開源大模型部署本地化的服務。

"拋開算力資源問題不說，如果單看模型參數大小，開源大模型在相對小的規模上能力已經接近商用模型，漸漸有了趕超的勢頭。另外，相對追求大而全的通用商用大模型，在垂直領域的模型訓練上，開源模型的數量已經超過商用模型，因此企業不用太擔心開源大模型會落后于主流的商用大模型平臺。而在行業大模型領域，應該說整個市場都還不太成熟，還處在探索與實踐的階段，這就需要整個產業鏈通過共創的方式，推動行業大模型的慢慢成熟，最終打通落地的最后一公里。"霍宇說。

第二，除了算力和模型參數之外，企業應該把重心放在數據以及語料的沉淀上。在霍宇看來，目前語料確實是一個稀缺資源，但很多企業沒有意識到這一點，未來企業如果要做大模型，數據和語料就是繞不開的問題。也正因此，數據和語料的質量問題就變得尤為重要，同樣底層數據的清洗、標注、治理等一系列的工作也變得更加地迫在眉睫。

"我們目前也正在幫助一些行業客戶做數據治理的工作，我們判斷做數據和語料的工作還會長久持續，只不過很多工作如數據標注、數據收集的工作會變成‘工具+人工'的方式，同時這些數據和語料也會更加關注行業屬性。不僅如此，在具體的實踐過程中，我們也總結和沉淀了如何把語料或數據形成標準化的方法論，多大的參數量需要‘喂'它多少的語料能夠達到比較合適的性價比，這都是軟通動力正在做的事情。在此基礎上，業務規則的設定，數學建模以及參數調優，以及后續長期的優化等工作，我們也都是可以為行業客戶提供相關服務的。"他說。

第三，向量數據庫也是軟通動力關注的重要方向。向量數據庫主要用在AI和機器學習領域。在這些領域，數據通常以向量的形式呈現，可以有效解決文本、圖片、音頻、視頻等非結構化數據存儲和查詢的難題；而在大模型時代，目前對非結構化數據進行管理和處理的主流方法是，利用RNN或 Transformer 等嵌入模型（Embedding Model），將非結構化數據的語義內容轉化為多維向量，并直接對這些向量進行存儲、處理，由此可以為大模型的訓練、學習等提供更好的數據支撐。

霍宇認為，向量數據庫在大模型中將會起到三個方面的作用和價值，包括它目前已成為推動大模型迭代和進化的核心技術，同時它對企業的定制化需求也會有質的影響；更為關鍵的是，向量數據庫對以后的數據型項目的交付也會產生比較大的變革。

"我的理解是，向量數據庫是對數據科學的再一次‘數字化'，可以簡單地對比原來以表結構橫縱為主的數據庫，是用二維或者多維結構來表現，那么向量數據庫就是用一維結構來表現世界。因此隨著向量數據庫和算力以及AGI技術的發展，未來的數據交付模式就會改變，由此也會產生全新的商業模式，我們對此也是高度關注。"霍宇表示。

回頭來看，軟通動力這種"行勝于言"的務實風格，讓它在大模型服務賽道中構建了屬于自己獨特的競爭優勢。在AI算力資源上真金白銀的投入，對一家服務型企業而言，背后是決心的彰顯和對市場大勢的把握。這使得軟通動力一方面可以提供充足的算力資源供工程師和開發人員上手，積累和沉淀實操經驗；另一方面，也可提供現場Demo環境供企業客戶使用，讓客戶能切實感受到大模型帶來的全新價值。"

未來，我們還會繼續儲備更多的專家資源，持續在平臺和工具上做投入，并根據客戶的業務應用場景強化數據和語料的質量，最終提升交付的效率，以更好的創新服務模式打通大模型落地的最后一公里。"霍宇如是說。

在"躬身實踐"和"作壁上觀"之間，軟通動力選擇了前者，這也讓其對大模型市場有了更加深刻的認知和洞察，同時其過去一段時間的大膽實踐，也讓其在人才、工具、生態乃至方法論方面有了更多的積累和沉淀，而這也是軟通動力有能力，更有信心讓更多行業客戶加速擁抱大模型時代的底氣所在。