Ollama-Deepseek-R1 容器云调用方式
一、创建实例
3090、4090资源已部署DeepSeek R1镜像,支持命令行与Web可视化方式运行。
选择容器云 -> 创建容器 -> 选择图中镜像,创建实例。
具体配置选择可以根据需求创建,请参考:AI 智算云产品文档中心_创建容器实例
二、运行
2.1 命令行方式运行
容器云部署了多个模型库,可根据需求自行选择。
(1)执行命令deepseek
deepseek
(2)根据提示,输入对应的数字,选择需要的模型,即可开启与DeepSeek对话,如下图所示:
测试参考:deepseek-r1:14b
注意事项:
(1)脚本存放在家目录下,即:/root 路径下,名为: run_ds.sh,请勿删除。
使用默认端口 8088 启动运行,如果需要自定义端口,可以传入端口号作为参数:
执行: deepseek [自定义端口号]
例如: deepseek 9090
(2)如有本地自定义模型库,可修改脚本中这个环境变量参数:
export OLLAMA_MODELS=/shared-public/deepseek/deepseek-r1/models
修改为:
export OLLAMA_MODELS="自定义模型库绝对路径"
2.2 Web可视化方式运行
(1)按照2.1步骤启动服务。
(2)设置端口(默认为8088)
具体参考:AI 智算云产品文档中心_开放端口
(3)保存后复制外网地址与端口
(4)打开本地浏览器,粘贴 “外网地址及端口”,即可开启DeepSeek对话。
注:首次登陆需要先注册管理员账号。
默认web界面为中文,默认模型参数为32b
登录管理员账号后,根据自行选择,设置新用户注册,具体流程如下:
(5)开启与DeepSeek对话