Anything LLM
1.Anything LLM 支持模型
Anything LLM当前支持文本对话、视觉理解、向量模型,无法支持图像生成、视频生成、文本排序等模型。
模型分类 | 模型系列 | Chatbox是否支持 |
---|---|---|
文本对话 | DeepSeek-R1、V3 | √ |
Qwen3 | √ | |
GLM-4、4V、Z1 | √ | |
视觉理解 | Qwen2.5-VL | √ |
GLM-4V | √ | |
向量化 | GLM-Embedding | √ |
Doubao-Embedding | √ |
2.Anything LLM 接入方式
(1)本地下载安装AnythingLLM
(2)首次安装设置界面,选择Generic OpenAI,输入API密钥(API_KEY)、API 地址(BASE_URL/API_URL)、模型名
文本对话/视觉理解/向量化模型,基础url为 https://llmapi.blsc.cn/v1
(3)更改LLM设置,选择左下角第四个图标,再选择人工智能提供商-LLM首选项
(4)如需接入Embedding模型,请按此处理
设置embedder,选择左下角第四个图标,再选择人工智能提供商-Embedder首选项
上传文件进行向量化。新建一个工作区,点击上传按钮后上传文件,保存并向量化。
(5)开启对话等功能使用