Windows系统本地部署Ollama+MaxKB安装教程


飞致云 发布于 2024-10-18 / 27 阅读 / 0 评论 /
1 安装 Ollama 在 Download Ollama on Windows 下载 Windows 系统的 OllamaSetup.exe 安装包,然后双击安装即可。

1 安装 Ollama

在  Download Ollama on Windows 下载 Windows 系统的 OllamaSetup.exe 安装包,然后双击安装即可。

Ollama 安装完成后,打开 cmd 窗口,在窗口执行 ollama run qwen:0.5b 安装 qwen 模型。

安装 qwen 模型成功后,进行测试,可以正常问答输出。

2 安装 MaxKB

2.1 安装虚拟机

电脑上没有安装虚拟化软件,需要先安装虚拟化软件。市面上主流的桌面虚拟化软件有 VMware Workstation 和 VirtualBox。如果电脑上已经安装了其中一款软件,可以直接跳过这一部分。

示例选择了 VirtualBox,因为 VirtualBox 是免费的,若有需求也可以自行选择安装收费的 VMware Workstation。

VirtualBox 下载链接:https://download.virtualbox.org/virtualbox/7.0.14/VirtualBox-7.0.14-161095-Win.exe。 下载 VirtualBox 后,双击安装包进行安装,安装完成后默认打开 VirtualBox。

虚拟化软件 VirtualBox 已经安装完成,点击 “完成” 会自动打开 VirtualBox 虚拟机。

2.2 导入 Ubuntu 系统 OVA 包

在虚拟机中安装 Ubuntu 系统,可以下载 MeterSphere 提供的 Ubuntu OVA 文件,直接导入到 VirtualBox 就可以使用,省去安装系统的过程。

通过网盘链接下载 Ubuntu OVA 文件: https://pan.baidu.com/s/1SDy2HZNlDQYCy6J7wPsmtw?pwd=423w 提取码:423w

在 VirtualBox 界面上,点击 ”导入” ,选择下载好的 Ubuntu OVA 文件,点击 “下一步”。

选择一个可用空间在 50G 以上的磁盘位置,点击 “完成”。

等待虚拟机完成导入。

导入完成后,选择导入的虚拟机,配置使用本地网络后,点击“启动”按钮。

启动后,输入用户名和密码进入系统。注意:此处密码不显示,输入完成按回车。

  • 用户名:root

  • 密码:passwd

查看虚拟机的 IP,输入命令 ip a,每个环境的 IP 地址都不一样,本次演示环境的虚拟机 IP 地址为 192.168.11.182

2.3 安装MaxKB

使用远程连接工具 XShell 或者 MobaXterm 进行连接。以 MobaXterm 连接为例,输入 IP、用户名(root)、密码(passwd)登录服务器。

下载MaxKB 安装包并上传到服务器,下载地址:https://community.fit2cloud.com/#/products/maxkb/downloads

#解压安装包
tar -zxvf maxkb-v1.6.1-offline.tar.gz
 
# 进入安装包解压缩后目录 
cd maxkb-v1.6.1-offline
# 执行安装命令
/bin/bash install.sh

直至安装完成,服务状态显示 healthy 即可访问并登录

3 大模型配置

 用户的环境变量配置 OLLAMA_HOST 变量,值为 0.0.0.0。配置完成后,重启 Ollama 服务,在 MaxKB 页面 API 域名处填写 http://本机IP:11434 即可。

或者 用户的环境变量配置 OLLAMA_HOST 变量,值为 :8000。配置完成后,重启 Ollama 服务,在 MaxKB 页面 API 域名处填写 http://本机IP:8000 也可。



是否对你有帮助?