北京大學聯合華為發布全棧開源 DeepSeek 推理方案
感謝本站網友 Autumn_Dream 的線索投遞!
本站 3 月 10 日消息,據華為技術有限公司和北京大學高性能計算校級公共平臺消息,2025 年 3 月 9 日,北京大學聯合華為發布 DeepSeek 全棧開源推理方案。
據介紹,該方案基于北大自研 SCOW 算力平臺系統、鶴思調度系統,并整合 DeepSeek、openEuler、MindSpore 與 vLLM / RAY 等社區開源組件,實現華為昇騰上的 DeepSeek 高效推理,并支持大規模算力集群訓推一體化部署。所有開發者均可獲取源碼并根據需求二次開發,性能接近閉源方案。
全棧開源方案其他閉源方案模型DeepSeek-R1-w8a8硬件配置2*Atlas 800I A2輸入長度4096輸出長度1024系統輸出吞吐11981288用戶并發128128目前,此方案在未名卓越一號集群部署成功。該集群由北京大學計算中心負責研制與運維管理,為北大鯤鵬昇騰科教創新卓越中心提供算力支持。本站查詢獲悉,作為國內首個基于高校自研基礎軟件的國產智算平臺,該集群于 2024 年 11 月 18 日上線運行,首期集成 20 臺昇騰 AI 服務器與 10 臺鯤鵬通用服務器,AI 算力規模為 30.64PFlops(半精度)。
此次發布的 DeepSeek 推理方案依托全棧開源組件構建,在 openEuler 開源操作系統層面進行了深度優化;通過異構調度負載感知 MoE 冷熱專家,從而更細粒度調度任務;通過異構融合來高效管理內存,減小系統內存碎片;利用畢昇編譯器進一步優化,減少算子下發耗時,提升推理整體性能。
文章版權聲明:除非注明,否則均為
摸魚手游網
原創文章,轉載或復制請以超鏈接形式并注明出處。
還沒有評論,來說兩句吧...