突破性能限制，樹立DeepSeek-R1大模型部署新基準
作為全球關注的焦點，眾多企業(yè)正準備在本地化部署DeepSeek大模型。然而，在落地實施過程中用戶普遍面臨以下關鍵決策難題：單機能否部署滿血版DeepSeek R1？所需最低配置是什么？如何確保高并發(fā)與吞吐量下的優(yōu)質體驗？如何避免采購陷阱？
聯(lián)想此次突破為企業(yè)提供科學選型指南。針對行業(yè)公認1TB顯存是千億參數(shù)大模型運行基線的背景下，聯(lián)想研發(fā)團隊通過專家并行優(yōu)化、智能訪存架構升級及PCIe 5.0全互聯(lián)架構創(chuàng)新，大幅提升了顯存利用率，從而實現(xiàn)了性能的提升。
據(jù)了解，聯(lián)想WA7780 G3服務器在2月初已實現(xiàn)單機768GB GPU顯存條件下部署DeepSeek 671B R1和V3滿血模型，并能滿足中小企業(yè)的并發(fā)需求。進而通過聯(lián)想萬全異構智算平臺的訪存優(yōu)化，專家并行調用策略等技術優(yōu)化手段，實現(xiàn)了單機一個月內并發(fā)能力增長10倍， 同時還提升了每路用戶的TPOT、TTFT等綜合性能體驗。
聯(lián)想問天WA7780 G3大模型訓推一體服務器
持續(xù)優(yōu)化升級，解決用戶體驗難題
聯(lián)想的這一創(chuàng)新成果揭示了設備選型的新維度，也提醒企業(yè)審慎評估各種測試數(shù)據(jù)，摒棄對總吞吐量和總并發(fā)數(shù)等指標的片面追求，而應從用戶體驗出發(fā)，關注這些指標背后的隱藏信息，如數(shù)據(jù)精度等。實際上，如果將數(shù)據(jù)精度從FP8轉為int8或int4（即量化），雖能明顯改善性能表現(xiàn)（如更高并發(fā)量和高吞吐量），但會犧牲結果的準確性，顯然這不是用戶所期望的。
需要特別指出的是，高吞吐量和高并發(fā)量也并不等同于用戶體驗好。若服務器GPU卡配置不高，局部通信瓶頸可能引發(fā)響應延遲使體驗降級，這正是聯(lián)想著力解決的難點之一。
毫無疑問，聯(lián)想技術突破將有效破除大模型落地瓶頸，顯著加速大模型在企業(yè)的落地進程。未來，聯(lián)想基礎設施業(yè)務群與聯(lián)想研究院ICI實驗室將繼續(xù)攜手合作，依托聯(lián)想萬全異構智算平臺對DeepSeek平臺從AI預訓練、后訓練到推理的全流程進行持續(xù)優(yōu)化，為客戶奉獻出性能更佳、性價比更高的產品和解決方案，以加速DeepSeek大模型的落地，推動新一輪生產力革命。
