芜湖尾敢投资有限公司

MaxKB基于 LLM 大語言模型的知識庫問答系統(tǒng)（windows環(huán)境）——墨澀網(wǎng)

2024-5-25

MaxKB 是一款基于 LLM 大語言模型的知識庫問答系統(tǒng)。MaxKB = Max Knowledge Base，旨在成為企業(yè)的最強大腦。

  • 開箱即用：支持直接上傳文檔、自動爬取在線文檔，支持文本自動拆分、向量化、RAG（檢索增強生成），智能問答交互體驗好；
  • 無縫嵌入：支持零編碼快速嵌入到第三方業(yè)務(wù)系統(tǒng)；
  • 多模型支持：支持對接主流的大模型，包括 Ollama 本地私有大模型（如 Meta Llama 3、qwen 等）、通義千問、OpenAI、Azure OpenAI、Kimi、智譜 AI、訊飛星火和百度千帆大模型等。

開源地址：https://gitee.com/fit2cloud-feizhiyun/MaxKB

你也可以通過 1Panel 應(yīng)用商店?快速部署 MaxKB + Ollama + Llama 2，30 分鐘內(nèi)即可上線基于本地大模型的知識庫問答系統(tǒng)，并嵌入到第三方業(yè)務(wù)系統(tǒng)中。

UI 展示

一、基礎(chǔ)環(huán)境準備（安裝WSL2）

WSL，Windows Subsystem for Linux，含義就是在Windows系統(tǒng)下Linux的子系統(tǒng)。只需要三步就可以在系統(tǒng)中為Docker安裝WSL2了，請注意目前WSL2支持在Windows10 2004以上的版本。

開啟WSL2功能

首先，打開Powershell命令提示符，運行命令先查看網(wǎng)上所有的子系統(tǒng)， 再選擇你想要選擇的系統(tǒng)，這里我們將選擇Ubuntu來進行安裝。

安裝 Linux distribution

wsl?--install?-d?Ubuntu

安裝成功后，結(jié)果返回會讓你創(chuàng)建UNIX的用戶名和密碼。

設(shè)置默認版本

打開命令提示符，設(shè)置WSL2為Linux distribution的默認版本：

wsl?--set-default-version?2

二、安裝Docker Desktop

docker官網(wǎng)：https://docker.com/

2.下載docker desktop
下載地址：https://docs.docker.com/desktop/install/windows-install/

下載以后，直接雙擊運行exe文件，注意去掉“Use WSL2 instead of Hyper-V（recommended）”的勾選，否則會帶來很多問題（踩坑的經(jīng)驗）。

等待安裝

安裝完成，點擊“Close and?restart”重啟計算機。

系統(tǒng)重啟后。雙擊運行桌面的“Docker Desktop”圖標，彈窗點擊“Accept”。

點擊：“Continue without signing?in”，不登錄進入。

點擊：“Skip?survey”

進入到了Docker Desktop界面。

3.切換國內(nèi)源（設(shè)置⚙—Docker Engine），粘貼下面的內(nèi)容，點擊“Apply&restart”保存并重啟Docker

{
  "registry-mirrors": [
    "https://82m9ar63.mirror.aliyuncs.com",
    "http://hub-mirror.c.163.com",
    "https://docker.mirrors.ustc.edu.cn"
  ],
  "builder": {
    "gc": {
      "defaultKeepStorage": "20GB",
      "enabled": true
    }
  },
  "experimental": false,
  "features": {
    "buildkit": true
  }
}

三、Docker安裝maxkb

按下win+R鍵盤輸入CMD回車打開后粘貼下面的安裝命令

docker run -d --name=maxkb -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data 1panel/maxkb

再次打開Docker Desktop界面，就可以看到已經(jīng)在運行的maxkb服務(wù)。點擊“port(s)下面的端口號就可以大打開“maxkb服務(wù)”的網(wǎng)頁了。

打開界面以后，登錄使用即可。默認登錄信息（用戶名: admin? 密碼: MaxKB@123..）

THE END