观察网 商业 正文

发布DeepSeek私有化部署方案,超算互联网加速企业AI应用创新

2025-02-13 17:17   来源: 互联网

为助力更多企业及专业开发者部署包括DeepSeek在内的AI开源模型,近日国家超算互联网平台发布了“DeepSeek私有化部署方案”。方案依托丰富的轻量化AI工具,支持企业用户部署完整的DeepSeek对外API服务接口,实现AI应用创新。

 “DeepSeek私有化部署方案”不仅支持企业用户与开发者调用部署完整的DeepSeek对外API服务接口,还可根据实际业务场景深度定制,实现AI应用创新。

图片1.png 

超算互联网提供平台的丰富轻量化工具,支持企业实现AI部署在线调试及快速验证功能。而如多实例启动、线上服务扩缩容、服务版本管理等平台工具,也支撑企业在线推理场景中的多元应用诉求。

 「操作指导」

第1步:Notebook轻量级开发工具开发调试;在Notebook中选择【异构加速卡AI】资源,并选择开发环境。在【模型镜像】处挑选目标镜像,现阶段平台提供DeepSeek R1(671B、70B、32B、14B、8B、7B、1.5B )系列模型。

 实例启动后可参考Markdown指引,调试部署参数或个性化开发,支持WebUI或API接口服务调试,完成后可保存镜像。

图片2.png 

▲DeepSeek-R1模型镜像创建界面

 2步:模型部署服务快速部署模型;基于平台镜像管理功能,企业用户与开发者可直接推送Notebook中保存的镜像到【模型部署】服务中使用;填写API调用地址,选择【异构加速卡AI】资源,快速部署为线上服务,获取API接口。

图片3.png 

▲DeepSeek-R1模型部署开发界面



责任编辑:小菲
分享到:
0
【慎重声明】凡本站未注明来源为"观察网"的所有作品,均转载、编译或摘编自其它媒体,转载、编译或摘编的目的在于传递更多信息,并不代表本站赞同其观点和对其真实性负责。如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行!

未经许可任何人不得复制和镜像,如有发现追究法律责任 粤ICP备2020138440号