大语言模型UI界面工具 Open WebUI 服务器部署
最大优点:除了提供 WEB 界面,还提供了大模型框架 Ollama API第一步:安装容器
# yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
Adding repo from: http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
# yum install docker-ce
-------------------------------
检查一下容器有没有启动
# docker ps
Cannot connect to the Docker daemon at unix:///var/run/docker.sock. Is the docker daemon running?
如果如上报错,则启动一下服务
# service docker start
-------------------------------
第二步:拉取 Open WebUI 容器镜像
docker pull ghcr.io/open-webui/open-webui:main
(官方安装文档:https://docs.openwebui.com/getting-started/quick-start/)
18:22 - 次日01:11(Open WebUI 安装耗时:接近6个小时)
第三步:运行容器
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main
1. 以上完全按照官方文档操作就行,不需要修改一个字。网上那么多延申出来的安装教程,我觉得没有必要看,容易误导。
2. 这里将默认的8080映射到3000端口,其实不需要这样。
3. WEB界面长时间白屏,因为在 open-webui 网页加载的时候,会从配置中读取各个接入的服务的配置,然后返回用户可以选择的额模型列表。而在我们没有做任何配置的情况下,openai 的服务是默认接入的,所以会去查询openai 的服务哪些可以用,但是因为网络无法访问,所以会一直等待,直到超时。
进入正题,外部连接 Ollama 框架,调整容器参数,重新运行:
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
(参见官方文档:https://github.com/open-webui/open-webui#troubleshooting)
不要信网上各式各样教程的做法,越说越乱。直接看官方文档,一个字不用改!
1. 不要信网上各式各样教程的说法,越讲越乱。直接看官方文档,一个字不用改!
2. 按默认8080端口,无需绑定域名,只要将域名A解析到该IP
3. 确保 Ollama 已经运行
2025-03-23 凌晨操作
# docker stop b2f8fc72519c
# docker rm b2f8fc72519c
# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://127.0.0.1:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
(这个容器的参数不对,所以次日删除该容器,重配参数运行)
2025-03-24 上午操作
# docker ps -a//查询该容器ID
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
0cac5f1b0687 ghcr.io/open-webui/open-webui:main "bash start.sh" 9 hours ago Up 9 hours (healthy) 0.0.0.0:3000->8080/tcp, :::3000->8080/tcp open-webui
# docker stop 0cac5f1b0687//停止该容器
# docker rm 0cac5f1b0687//删除该容器
# ollama -v//确认ollama已运行
# docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main 40GB全新系统,完成 Open WebUI 安装后,磁盘剩余空间:
# df -TH
Filesystem Type SizeUsed Avail Use% Mounted on
devtmpfs devtmpfs1.9G 01.9G 0% /dev
tmpfs tmpfs 1.9G 01.9G 0% /dev/shm
tmpfs tmpfs 1.9G586k1.9G 1% /run
tmpfs tmpfs 1.9G 01.9G 0% /sys/fs/cgroup
/dev/vda3 ext4 42G 11G 30G26% /
/dev/vda2 vfat 210M6.1M204M 3% /boot/efi
overlay overlay 42G 11G 30G26% /var/lib/docker/overlay2/d29e1b05d91159d321368788bca29eee8a9d00f93c9571fee83762abadefb51a/merged
tmpfs tmpfs 370M 0370M 0% /run/user/0
阿里云主机监控,磁盘使用率25.28%,剩余30GB
# df -TH
Filesystem Type SizeUsed Avail Use% Mounted on
devtmpfs devtmpfs1.9G 01.9G 0% /dev
tmpfs tmpfs 1.9G 01.9G 0% /dev/shm
tmpfs tmpfs 1.9G594k1.9G 1% /run
tmpfs tmpfs 1.9G 01.9G 0% /sys/fs/cgroup
/dev/vda3 ext4 42G 16G 24G41% /
/dev/vda2 vfat 210M6.1M204M 3% /boot/efi
tmpfs tmpfs 370M 0370M 0% /run/user/0
overlay overlay 42G 16G 24G41% /var/lib/docker/overlay2/70c3b868a6cb864c435b576c483004e4d255d27006724db393decfe73aa79c80/merged
以上全部折腾完,剩余24GB,可见最低配置占用空间不多。
页:
[1]