北京大学联合华为发布全栈开源 DeepSeek 推理方案

发布时间:2025-04-14 来源:互联网

感谢本站网友 Autumn_Dream 的线索投递!

本站 3 月 10 日消息,据华为技术有限公司和北京大学高性能计算校级公共平台消息,2025 年 3 月 9 日,北京大学联合华为发布 DeepSeek 全栈开源推理方案。

据介绍,该方案基于北大自研 SCOW 算力平台系统、鹤思调度系统,并整合 DeepSeek、openEuler、MindSpore 与 vLLM / RAY 等社区开源组件,实现华为昇腾上的 DeepSeek 高效推理,并支持大规模算力集群训推一体化部署。所有开发者均可获取源码并根据需求二次开发,性能接近闭源方案。

全栈开源方案其他闭源方案模型DeepSeek-R1-w8a8硬件配置2*Atlas 800I A2输入长度4096输出长度1024系统输出吞吐11981288用户并发128128

目前,此方案在未名卓越一号集群部署成功。该集群由北京大学计算中心负责研制与运维管理,为北大鲲鹏昇腾科教创新卓越中心提供算力支持。本站查询获悉,作为国内首个基于高校自研基础软件的国产智算平台,该集群于 2024 年 11 月 18 日上线运行,首期集成 20 台昇腾 AI 服务器与 10 台鲲鹏通用服务器,AI 算力规模为 30.64PFlops(半精度)。

此次发布的 DeepSeek 推理方案依托全栈开源组件构建,在 openEuler 开源操作系统层面进行了深度优化;通过异构调度负载感知 MoE 冷热专家,从而更细粒度调度任务;通过异构融合来高效管理内存,减小系统内存碎片;利用毕昇编译器进一步优化,减少算子下发耗时,提升推理整体性能。

▲算力集群全栈开源推理方案架构图
本周热门攻略

1
欧美人和禽胶配方大全,如何选择最适合你的健康补充方案?

欧美人和禽胶配方大全,如何选择最适合你的健康补充方案?

2025/01/18

2
《父亲开了两个女儿包》演员表揭秘:哪些演员让你印象深刻?

《父亲开了两个女儿包》演员表揭秘:哪些演员让你印象深刻?

2025/01/18

3
为何“国产18”类内容会被严格禁写?政策背后有哪些深层原因?

为何“国产18”类内容会被严格禁写?政策背后有哪些深层原因?

2024/12/25

4
“91在线乱码精品㊙️比基尼”是什么?它代表了什么样的时尚潮流与网络文化现象?

“91在线乱码精品㊙️比基尼”是什么?它代表了什么样的时尚潮流与网络文化现象?

2024/12/15

5
脏脏漫是什么?揭秘脏脏漫的艺术风格与独特魅力:为何能迅速成为年轻人文化现象

脏脏漫是什么?揭秘脏脏漫的艺术风格与独特魅力:为何能迅速成为年轻人文化现象

2024/12/25

6
欧美无人区码SUV的未来发展与挑战:智能越野车辆如何改变市场格局?

欧美无人区码SUV的未来发展与挑战:智能越野车辆如何改变市场格局?

2024/12/19

7
人间小喷泉之慕深重写的1v3挑战:能否再创辉煌?

人间小喷泉之慕深重写的1v3挑战:能否再创辉煌?

2024/12/21

8
你知道“啊灬啊灬啊灬快灬大水啊灬游戏”是什么吗?揭秘这款游戏的魅力与玩法

你知道“啊灬啊灬啊灬快灬大水啊灬游戏”是什么吗?揭秘这款游戏的魅力与玩法

2025/02/18

9
JM版本1.7.6更新亮点有哪些?如何提升系统性能及用户体验?

JM版本1.7.6更新亮点有哪些?如何提升系统性能及用户体验?

2025/01/22

10
为什么《星空无限MV国产剧》能够成功入选并引发观众热议?

为什么《星空无限MV国产剧》能够成功入选并引发观众热议?

2025/01/28