MaxKB 如何对接本地向量模型

一、下载向量模型

在对接向量模型之前，先去下载好对应的模型：https://huggingface.co/

二、上传模型到服务器

下载好模型之后，上传到部署 MaxKB 的服务器上的 /opt/maxkb/local 目录下,并进行解压或者解压后放入。

三、配置本地向量模型

1. 添加模型

系统管理->模型设置->本地模型→"添加模型"

模型名称：自定义模型名字

模型类型：选择“向量模型”

基础模型：此处需要注意，要手动填写对应的模型在MaxKB容器内的绝对路径，该路径下有pytorch_model.bin、tokenizer_config.json、tokenizer.json 等这些文件，不同的模型，路径应该有所不同，根据实际情况修改。

/opt/maxkb/local/models--moka-ai--m3e-base/snapshots/764b537a0e50e5c7d64db883f2d2e051cbe3c64c

模型目录：默认跟“基础模型”路径一致

添加好之后如图：

2. 使用自定义模型

在创建知识库的时候，选择指定向量模型即可。