MLPerf? Storage作為全球AI存儲性能評測領域的權威標桿，以嚴格的標準化測試流程和跨廠商可比性著稱，本次測試共有26家業(yè)界主流的廠商參與，其中包括DDN、IBM、焱融、HPE、UBIX、Nutanix等專業(yè)存儲廠商，充分體現(xiàn)了該榜單在全球科技領域的廣泛認可度與影響力。

面向Training場景，MLPerf? Storage涵蓋了3D U-Net等負載用例，聚焦考核GPU利用率及橫向擴展能力，同時強調(diào)存儲與網(wǎng)絡協(xié)同優(yōu)化，以此驗證存儲系統(tǒng)對大規(guī)模AI集群算力的支撐能力。

此外，本次測試新增了Checkpointing場景，是首個測試大模型訓練檢查點性能的行業(yè)標準，其聚焦存儲頻繁保存訓練狀態(tài)時的穩(wěn)定性表現(xiàn)，可覆蓋大規(guī)模集群斷點續(xù)訓、模型存檔等實際應用場景，為集群存儲的選型決策提供了關鍵參考依據(jù)。

Training場景中，華為以698 GiB/s性能刷新全球記錄

在該測試中，3D U-Net是對存儲帶寬要求最高的訓練用例。測試結(jié)果顯示，在保持GPU利用率90%以上的條件下，華為OceanStor A系列存儲以絕對性能優(yōu)勢，獲得了單存儲設備、每U存儲設備及單客戶端三項指標全球第一，其中：

● 單臺8U雙節(jié)點架構的OceanStor A800，可支撐255張H100 GPU訓練數(shù)據(jù)吞吐需求，持續(xù)提供698 GiB/s的穩(wěn)定帶寬。

efc1f52345af1eaa63e62a6a0d67f31.png

MLPerf? Storage v2.0測試：3D U-Net單存儲設備性能排名第一

● 單臺2U雙節(jié)點架構的OceanStor A600，可支撐76張H100 GPU訓練場景的吞吐需求，每U帶寬穩(wěn)定達108 GiB/s，單客戶端帶寬達104 GiB/s。

4332eb2dd51f07e047f687af6960e46.png

MLPerf? Storage v2.0測試：3D U-Net每U性能和單客戶端性能排名第一

Checkpointing場景中，OceanStor A系列存儲性能領先第二名6.7倍

在新增的 Checkpointing工作負載測試中，結(jié)果顯示：

● 在Llama3_8b模型訓練場景下（單臺8卡訓練服務器8并發(fā)場景），華為OceanStor A系統(tǒng)存儲單客戶端支持40.2 GiB/s讀帶寬與20.5 GiB/s寫帶寬，排名第一。

● 在Llama3_70b模型訓練場景下（單臺8卡訓練服務器8并發(fā)場景），華為OceanStor A系統(tǒng)存儲單客戶端68.8 GiB/s讀帶寬與62.4 GiB/s寫帶寬，領先第二名6.7倍，排名第一。

d1e09226a17b663d1cfd586367b4d7d.png

MLPerf? Storage v2.0測試：Checkpointing單客戶端性能排名第一

華為OceanStor A系列存儲持續(xù)創(chuàng)新，加速大模型應用落地

面對未來更強勁的GPU卡，華為OceanStor A系列存儲性能可隨客戶端與存儲節(jié)點數(shù)量線性增長，提供百TB級穩(wěn)定集群帶寬，為大規(guī)模訓練提供更強的數(shù)據(jù)訪問能力。同時，華為OceanStor A系列存儲更在多維度展開技術創(chuàng)新：

華為數(shù)據(jù)存儲不僅在性能上持續(xù)深耕并保持領先優(yōu)勢，更在多維度展開技術創(chuàng)新。圍繞大模型訓練與推理場景，華為數(shù)據(jù)存儲實現(xiàn)訓推全流程的全面加速，具體包括：

? 高擴展性：集群支持EB級容量橫向擴展；每個引擎可支持多GPU、DPU或NPU縱向擴展，最大支持擴容至4096張算力卡；

? 數(shù)據(jù)韌性：以架構創(chuàng)新實現(xiàn)99.999%高可靠性，通過內(nèi)置防勒索引擎，實現(xiàn)偵測準確率提升至99.99%；

? 全新數(shù)據(jù)范式：構建PB級KV Cache全局共享資源池，在保證推理精度的同時首token時延（TTFT）降低90%，推理吞吐10倍提升，大幅提升客戶推理體驗；內(nèi)置RAG知識庫，支持標量、向量、張量、圖等多模式檢索，大幅度降低AI大模型使用門檻；

? 數(shù)據(jù)編織：基于存儲元數(shù)據(jù)管理及檢索能力，實現(xiàn)全局數(shù)據(jù)可視、可管，可實現(xiàn)10倍的數(shù)據(jù)流動效率提升；

? 綠色節(jié)能：通過存儲介質(zhì)應用創(chuàng)新和整機硬件創(chuàng)新，將推出128TB大容量SSD盤，密度高達1PB/U，能耗低至0.7Watt/TB。

展望前路，華為OceanStor A系列存儲將持續(xù)深耕，推出面向HPC、AI大模型訓/推等場景領先的產(chǎn)品與解決方案，與客戶共贏全面智能化的未來。

分享到

songjy

相關推薦