大模型平台API接入对话助手Anything LLM

Anything LLM

1.Anything LLM 支持模型

Anything LLM当前支持文本对话、视觉理解、向量模型,无法支持图像生成、视频生成、文本排序等模型。

模型分类模型系列Chatbox是否支持
文本对话DeepSeek-R1、V3
Qwen3
GLM-4、4V、Z1
视觉理解Qwen2.5-VL
GLM-4V
向量化GLM-Embedding
Doubao-Embedding

2.Anything LLM 接入方式

(1)本地下载安装AnythingLLM

(2)首次安装设置界面,选择Generic OpenAI,输入API密钥(API_KEY)、API 地址(BASE_URL/API_URL)、模型名

文本对话/视觉理解/向量化模型,基础url为 https://llmapi.blsc.cn/v1

(3)更改LLM设置,选择左下角第四个图标,再选择人工智能提供商-LLM首选项

(4)如需接入Embedding模型,请按此处理

  设置embedder,选择左下角第四个图标,再选择人工智能提供商-Embedder首选项

上传文件进行向量化。新建一个工作区,点击上传按钮后上传文件,保存并向量化。

(5)开启对话等功能使用