容器云使用指南
最佳实践
工具使用
Deepseek-R1-Ollama

Deepseek-R1-Ollama 容器云调用方式

注:当前镜像仅支持本地访问,如需对外访问,推荐选择使用Vllm框架。

一、创建实例

3090、4090资源已部署DeepSeek R1镜像,支持命令行与Web可视化方式运行。

选择容器云 -> 创建容器 -> 选择图中镜像,创建实例。

image

具体配置选择可以根据需求创建,请参考:AI 智算云产品文档中心_创建容器实例

二、运行

2.1 命令行方式运行

容器云部署了多个模型库,可根据需求自行选择。

(1)执行命令deepseek

deepseek

(2)根据提示,输入对应的数字,选择需要的模型,即可开启与DeepSeek对话,如下图所示:

image

测试参考:deepseek-r1:14b

注意事项:

(1)脚本存放在家目录下,即:/root 路径下,名为: run_ds.sh,请勿删除。

(2) 使用交互式方式进行选择模型、设置端口等参数;若需要修改相关参数,请自行输入即可。

(3)如需自定义模型库,则修改脚本 run_ds.sh 中如下参数:

export OLLAMA_MODELS=/shared-public/deepseek/deepseek-r1/models  

修改为:

export OLLAMA_MODELS="自定义模型库绝对路径"  

2.2 Web可视化方式运行

2.2.1 启动步骤

(1)按照2.1步骤启动服务。

(2)设置端口(默认为8088)

具体参考:AI 智算云产品文档中心_开放端口

image

image

(3)保存后复制外网地址与端口

image

(4)打开本地浏览器,粘贴 “外网地址及端口”,即可开启DeepSeek对话。

注:首次登录需要先注册管理员账号。

默认web界面为中文,默认模型参数为32b

登录管理员账号后,根据自行选择,设置新用户注册,具体流程如下:

image

image

(5)开启与DeepSeek对话

image

2.2.2 Web设置(选做)

(1)开通注册账号功能

建议关闭新账号注册,普通用户由管理员账号统一分配设置;如若开启可以自行设置开启即可。

image

选择管理员设置--开启这个选项

image

(2)设置默认模型

设置普通账号默认获取模型方式,需要在管理员控制板界面设置

image

image

image