兆芯全系整机成功部署DeepSeek-R1
双路64核跑满血671B

2月24日消息,兆芯官方宣布,基于兆芯处理器的PC笔记本/台式机终端、工作站、服务器,已经全系成功实现DeepSeek-R1 Distill模型的本地部署,涵盖1.5B、7B、14B、32B、70B、671B等各种参数规模。

操作系统方面,兆芯原生支持Linux、Windows、各家国产操作系统,并适配国产GPU AI加速卡

1.jpg

KX-7000台式机本地部署DeepSeek-R1-7B模型 

基于开先KX-7000桌面处理器的台式机,通过搭配国内显卡、加速卡,在本地成功部署DeepSeek-R1-7B模型,可充分发挥DeepSeek强大的语义理解和推理能力。

通过与WPS Word、Excel、VSCode等常用工具的整合,可以实现智能文档处理、数据处理、智能编程等功能。

2.png

智能文档处理

3.png

智能数据处理

4.png

智能编程

KX-7000是兆芯新一代的高性能桌面PC处理器,采用全新的“世纪大道”自主内核微架构,以及先进的Chiplet互连架构,集成8个CPU核心,共享32MB 三级缓存,最高工作频率可达3.7GHz。

KH-40000/16工作站部署DeepSeek-R1-32B模型

基于KH-40000/16服务器处理器的工作站“联和东海XRS302”,成功部署了DeepSeek-R1-7B、14B、32B模型。

该工作站配备了4块高性能的国产GPU推理加速卡,可提供高性价比、稳定高效的推理能力,而优化的CPU与多GPU间互连架构,可有效提升传输带宽,降低延迟。

它还采用了低功耗、静音设计,适合智能办公等桌面本地化AI推理场景。

5.png

联和东海XRS302 AI工作站

KH-40000/32双路服务器部署DeepSeek R1 671B模型

在服务器端,开胜KH-40000/32处理器可提供双路64核心的高性能计算能力,支持2TB海量内存,提供强大的扩展能力。

通过搭配国内加速卡,开胜KH-40000/32服务器已成功完成DeepSeek-R1-70B版本的适配和部署,适用于数学、编程、推理等应用领域。

6.jpg

兆芯服务器终端上成功部署DeepSeek-R1-70B版本

同时,针对满血的DeepSeek-R1-671B大模型,在不插入任何外界加速卡的情况下,开胜KH-40000/32处理器已经完成本地部署,完整验证了兆芯服务器CPU架构承载千亿参数模型的硬件能力。


Magazine.Subscription.jpg

通知公告
编辑观点
理事会
参考资料
版权声明

凡《网络安全与数据治理》(原《信息技术与网络安全》)录用的文章,如作者没有关于汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权等版权的特殊声明,即视作该文章署名作者同意将该文章的汇编权、翻译权、印刷权及电子版的复制权、信息网络传播权与发行权授予本刊,本刊有权授权本刊合作数据库、合作媒体等合作伙伴使用。同时,本刊支付的稿酬已包含上述使用的费用,特此声明。

《网络安全与数据治理》(原《信息技术与网络安全》)编辑部