大模型海光DCU部署教程！大模型海光dcu部署教程详解？

本文目录一览：

• 1、媲美满血DeepSeek-R1?国产海光DCU本地部署QwQ-32B成功,测试效果非常棒...
• 2、使用海光DCU&DTK进行FastSCNN模型训练
• 3、本地部署并测试OpenManus,基于国产海光DCU,效果非常不错

媲美满血DeepSeek-R1?国产海光DCU本地部署QwQ-32B成功,测试效果非常棒...

1、该模型在海光DCU上的本地部署已经取得成功，并展现出与满血DeepSeek-R1相匹敌的性能。

2、紫光股份：旗下新华三集团自研灵犀使能平台，支持DeepSeek V3/R1模型的纳管和部署。灵犀使能平台为DeepSeek模型的管理和部署提供了统一的界面和工具，简化了操作流程，提高了管理效率。海光信息：完成DeepSeek V3/R1大模型与海光DCU的国产化适配，技术达国际高端水平。

3、海光信息：海光信息也宣布完成DeepSeek V3和R1模型与海光DCU的适配并上线。DCU是海光信息推出的高性能GPGPU架构AI加速卡，已在多个领域规模化应用。用户现可通过“光合开发者社区”中的“光源”板块访问并下载相关模型，基于DCU平台快速部署和使用。

使用海光DCU&DTK进行FastSCNN模型训练

海光DCU的主要客户包括智算中心等“新基建”项目、行业用户、AI厂商、互联网企业、金融领域客户以及能源化工领域客户。具体如下：互联网企业：在互联网合作方面，海光DCU产品已取得显著进展。其DCU产品得到了百度、阿里等互联网头部企业的认证，并且与这些企业推出了联合方案。

海光DCU可以在一定程度上代替GPU。海光DCU是专门针对AI人工智能和深度学习设计的加速卡，它基于通用的GPGPU架构。在性能上，海光DCU展现出了强大的计算能力和良好的软件生态环境，能够满足大数据处理、人工智能等领域的高算力需求。根据业界评价，某些型号的海光DCU在性能上已经接近或达到了英伟达的高端GPU水平。

海光CPU产品兼容x86指令集和主流操作系统、应用软件，软硬件生态丰富，性能卓越，安全可靠。广泛应用于电信、金融、互联网、教育、交通等重要行业领域。海光DCU产品基于GPGPU架构，兼容类CUDA环境，适用于大数据处理、人工智能、商业计算等应用。公司下设15个职能部门，涵盖各个关键业务领域。

本地部署并测试OpenManus,基于国产海光DCU,效果非常不错

1、例如在海光DCU（4卡）上通过Ollama服务实现全国产化部署。项目开源地址为：https：//github.com/mannaandpoem/OpenManus。

2、总结 综上所述，QwQ-32B模型在海光DCU上的本地部署取得了成功，并展现出卓越的性能和核心能力。