武漢人工智能研究院的王金橋院長在發(fā)言中指出，人工智能技術正經歷從感知世界到生成創(chuàng)造世界的深刻變革，無論是模型訓練還是推理應用，都對算力提出了更高的要求。他提到，繼去年11月發(fā)布支持圖、文、音、3D信號的3.0版本后，今年將發(fā)布4.0版本，其多模態(tài)理解與生成能力全面對標業(yè)界頂尖水平。王院長強調，國產化適配至關重要。通過與華為等伙伴合作，基于生成式AI的高效分布式訓練，已成功將一個千億模型的訓練時間從4個月縮短至4周。同時，也強調當前業(yè)界關注的焦點正從單純追求參數量增長，轉向如何延長有效訓練時間、優(yōu)化思維鏈過程等多個方面。王金橋院長進一步預測，全球數據資源將于2028年前后趨于飽和，這將驅動計算范式從訓練密集型向推理密集型轉變。
為應對這?趨勢，技術層?的創(chuàng)新也在同步加速。華為云昇騰AI云服務技術專家介紹了在推理框架方面的優(yōu)化實踐，他表示，推理引擎是決定大模型服務性能的關鍵組件，通過對開源vLLM框架進行深度優(yōu)化和昇騰硬件適配，研發(fā)并應用分布式專家并行、PD分離部署、投機推理、MoE模型負載均衡、序列調度優(yōu)化等加速技術可顯著降低推理延遲、提升系統吞吐量。例如研發(fā)的業(yè)務動態(tài)感知算法，能將MoE模型延遲降低10%，同時提升10%的吞吐量。這些精細化的技術創(chuàng)新，正是實現模型從“大”到“優(yōu)”轉變，滿足未來深度思考和內容生成需求的關鍵所在。
創(chuàng)新突破算力瓶頸，構筑高效穩(wěn)定AI底座
面對日益增長的算力需求，特別是推理需求可能帶來的性能和體驗的“剪刀差“難題。
華為云昇騰AI云服務產品總監(jiān)在演講中坦言，推出CloudMatrix超節(jié)點算力解決方案目的，是為了應對國內在算力領域的嚴峻挑戰(zhàn)。他分享到，“我們通過光通信技術有效解決計算芯片的高效連接問題，打破傳統AI服務器邊界，首創(chuàng)將384顆昇騰NPU，通過全新高速網絡對等互聯，形成一臺超級‘AI服務器’，從根本上解決傳統架構的瓶頸。目前基于CloudMatrix 384超節(jié)點的新一代昇騰AI云服務已經在蕪湖、貴安、烏蘭察布、和林格爾全面上線”。
這一強大的基礎設施也得到客戶的驗證。佳都科技首席人工智能科學家王凱博士提到，作為昇騰AI云服務的原生開發(fā)伙伴，佳都科技第一時間采用最新的CloudMatrix 384超節(jié)點集群進行模型訓練，背后是對華為AI基礎設施的充分信任?；劭朴崢I(yè)AI負責人王淳也表示，在處理社交媒體輿情監(jiān)測業(yè)務時，業(yè)務流量常有從百萬級到千萬級的劇烈波動，而昇騰AI云服務的大模型推理服務提供高彈性、高可靠的推理服務，有效確保業(yè)務的持續(xù)穩(wěn)定運行。
深入垂直行業(yè)，大模型從輔助工具進化為“智能體”
如果說澎湃的算力是土壤，那么與千行萬業(yè)的深度融合，才是AI技術落地的關鍵。
佳都科技首席人工智能科學家王凱博士認為，AI垂直模型能力將成為未來行業(yè)操作系統的核心，他以佳都科技在交通行業(yè)的實踐為例，生動詮釋AI如何從輔助工具進化為解決核心業(yè)務問題的“智能體”。王凱博士介紹到，佳都科技通過大模型實現城市核心CBD區(qū)域十幾個路口信號燈的協同優(yōu)化，試點期間區(qū)域擁堵率下降16.22%。在軌道交通領域，則通過“運維智能體”對設備進行預測性維護，實現了從故障發(fā)現到維修指導的全流程智能化。
同樣，慧科訊業(yè)AI負責人王淳分享，如何利用AI大模型從海量的社交媒體數據中發(fā)掘商業(yè)新機遇。為此，慧科研發(fā)垂直領域大模型，通過自研行業(yè)大模型與動態(tài)本體庫構建方法，能夠精準、高效地處理每日上千萬條的用戶聲音，為企業(yè)提供關于產品、競品和營銷活動的深度洞察，其成本僅為傳統方案的1/67，并已成功服務于多個行業(yè)頭部客戶。
為讓AI開發(fā)更簡單、高效，華為云MaaS大模型服務平臺產品總監(jiān)介紹ModelArts Studio（MaaS)平臺，該平臺提供“模型、工具、應用”三位一體的服務。模型廣場已上架近170個開箱即用的優(yōu)質模型，工具廣場則集成了近1500個MCP服務，開發(fā)者可“零代碼”式地將原生大模型與各類工具結合，快速構建能力強大的多模態(tài)應用，正如美圖秀秀將其影像處理能力轉化為API服務，賦能更多開發(fā)者。
提供最優(yōu)算力基礎設施，以全棧AI創(chuàng)新賦能千行萬業(yè)
本次專題論壇從AI基礎設施、模型服務框架到平臺服務和行業(yè)應用的全棧AI創(chuàng)新。昇騰AI云服務正通過持續(xù)的技術和生態(tài)共建，將復雜的底層技術轉化為便捷、高效的云服務，賦能千行萬業(yè)，共同迎接智能時代的到來。
