最好用的大模型chatbot，離線部署，用戶體系打通

大家好，我是 Ai 學(xué)習(xí)的老章

寫個(gè)小教程

Open WebUI

市面上大模型 chatbot 無(wú)數(shù)，我最喜歡的一直都是 Open WebUI

因?yàn)樗梢酝耆x線部署、支持OpenAI 兼容 API，并配備內(nèi)置推理引擎用于 RAG

https://github.com/open-webui/open-webui

我還很喜歡它的模型對(duì)比功能，多個(gè)模型對(duì)同一問(wèn)題同時(shí)輸出結(jié)果

最良心的是，這個(gè)開(kāi)源項(xiàng)目還支持身份認(rèn)證，可以直接對(duì)接 LDAP

順帶說(shuō)一句，Qwen 的官方網(wǎng)頁(yè)就是基于 Open WebUI 修改的

離線部署

安裝 openwebui 是我見(jiàn)過(guò)所有 chatbot 中最簡(jiǎn)單的了

# 安裝 pip install open-webui # 啟動(dòng) open-webui serve

瀏覽器打開(kāi) http://locahost:8080

如果是服務(wù)器部署，把 localhost 改為服務(wù)器 ip

正常注冊(cè)登陸

右上角點(diǎn)擊頭像，點(diǎn)擊管理員面板

點(diǎn)擊設(shè)置 - 外部鏈接，照著抄一下，api key 隨便填寫

然后回到前端，左上角添加模型那里就可以了

但是內(nèi)網(wǎng)一般無(wú)法聯(lián)網(wǎng)，大多公司可能連 pip 源都沒(méi)有

Docker 或許是最好的選擇

# 有網(wǎng)環(huán)境拉去鏡像，打包鏡像 docker pull ghcr.io/open-webui/open-webui:main docker save open-webui/open-webui:main > open-webui.tar docker load -i open-webui.tar -webui docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

然后瀏覽器打開(kāi) http://ip:3000 就 OK 了，首次登錄可以設(shè)置管理員用戶和密碼

用戶對(duì)接

可以手動(dòng)新增用戶，在設(shè)置-用戶中添加即可

一個(gè)一個(gè)添加太麻煩，還可以csv導(dǎo)入

也在管理員設(shè)置頁(yè)-通用-身份認(rèn)證里，打開(kāi)允許新用戶注冊(cè)，右下角保存即可

其他用戶打開(kāi)Open-WebUI，其他用戶就可以注冊(cè)了

甚至可以給不同的用戶設(shè)置不同的模型使用權(quán)限

如果公司有統(tǒng)一認(rèn)證系統(tǒng)，還可以做LDAP對(duì)接