雨研员工讨论版

 找回密码
 立即注册

QQ登录

只需一步,快速开始

搜索
热搜: 活动 交友 discuz
查看: 34|回复: 2

大语言模型UI界面工具 Open WebUI 服务器部署

[复制链接]

142

主题

372

帖子

3397

积分

员工

Rank: 9Rank: 9Rank: 9

积分
3397
 楼主| 发表于 2025-3-23 10:41 | 显示全部楼层 |阅读模式
最大优点:除了提供 WEB 界面,还提供了大模型框架 Ollama API

第一步:安装容器
# yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
Adding repo from: http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
# yum install docker-ce
-------------------------------
检查一下容器有没有启动
# docker ps
Cannot connect to the Docker daemon at unix:///var/run/docker.sock. Is the docker daemon running?
如果如上报错,则启动一下服务
# service docker start
-------------------------------

第二步:拉取 Open WebUI 容器镜像
docker pull ghcr.io/open-webui/open-webui:main
(官方安装文档:https://docs.openwebui.com/getting-started/quick-start/

18:22 - 次日01:11(Open WebUI 安装耗时:接近6个小时)

第三步:运行容器
docker run -d -p 3000:8080 -v open-webui:/app/backend/data --name open-webui ghcr.io/open-webui/open-webui:main

1. 以上完全按照官方文档操作就行,不需要修改一个字。网上那么多延申出来的安装教程,我觉得没有必要看,容易误导。
2. 这里将默认的8080映射到3000端口,其实不需要这样。
3. WEB界面长时间白屏,因为在 open-webui 网页加载的时候,会从配置中读取各个接入的服务的配置,然后返回用户可以选择的额模型列表。而在我们没有做任何配置的情况下,openai 的服务是默认接入的,所以会去查询openai 的服务哪些可以用,但是因为网络无法访问,所以会一直等待,直到超时。

进入正题,外部连接 Ollama 框架,调整容器参数,重新运行
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
(参见官方文档:https://github.com/open-webui/open-webui#troubleshooting
不要信网上各式各样教程的做法,越说越乱。直接看官方文档,一个字不用改!
1. 不要信网上各式各样教程的说法,越讲越乱。直接看官方文档,一个字不用改!
2. 按默认8080端口,无需绑定域名,只要将域名A解析到该IP
3. 确保 Ollama 已经运行




本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

142

主题

372

帖子

3397

积分

员工

Rank: 9Rank: 9Rank: 9

积分
3397
 楼主| 发表于 2025-3-23 10:58 | 显示全部楼层
2025-03-23 凌晨操作
# docker stop b2f8fc72519c
# docker rm b2f8fc72519c
# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://127.0.0.1:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
(这个容器的参数不对,所以次日删除该容器,重配参数运行)

2025-03-24 上午操作
# docker ps -a  //查询该容器ID
CONTAINER ID   IMAGE                                COMMAND           CREATED       STATUS                 PORTS                                       NAMES
0cac5f1b0687   ghcr.io/open-webui/open-webui:main   "bash start.sh"   9 hours ago   Up 9 hours (healthy)   0.0.0.0:3000->8080/tcp, :::3000->8080/tcp   open-webui
# docker stop 0cac5f1b0687  //停止该容器
# docker rm 0cac5f1b0687  //删除该容器
# ollama -v  //确认ollama已运行
# docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://127.0.0.1:11434 --name open-webui --restart always ghcr.io/open-webui/open-webui:main
回复 支持 反对

使用道具 举报

142

主题

372

帖子

3397

积分

员工

Rank: 9Rank: 9Rank: 9

积分
3397
 楼主| 发表于 2025-3-23 11:03 | 显示全部楼层
40GB全新系统,完成 Open WebUI 安装后,磁盘剩余空间:
# df -TH
Filesystem     Type      Size  Used Avail Use% Mounted on
devtmpfs       devtmpfs  1.9G     0  1.9G   0% /dev
tmpfs          tmpfs     1.9G     0  1.9G   0% /dev/shm
tmpfs          tmpfs     1.9G  586k  1.9G   1% /run
tmpfs          tmpfs     1.9G     0  1.9G   0% /sys/fs/cgroup
/dev/vda3      ext4       42G   11G   30G  26% /
/dev/vda2      vfat      210M  6.1M  204M   3% /boot/efi
overlay        overlay    42G   11G   30G  26% /var/lib/docker/overlay2/d29e1b05d91159d321368788bca29eee8a9d00f93c9571fee83762abadefb51a/merged
tmpfs          tmpfs     370M     0  370M   0% /run/user/0
阿里云主机监控,磁盘使用率25.28%,剩余30GB

# df -TH
Filesystem     Type      Size  Used Avail Use% Mounted on
devtmpfs       devtmpfs  1.9G     0  1.9G   0% /dev
tmpfs          tmpfs     1.9G     0  1.9G   0% /dev/shm
tmpfs          tmpfs     1.9G  594k  1.9G   1% /run
tmpfs          tmpfs     1.9G     0  1.9G   0% /sys/fs/cgroup
/dev/vda3      ext4       42G   16G   24G  41% /
/dev/vda2      vfat      210M  6.1M  204M   3% /boot/efi
tmpfs          tmpfs     370M     0  370M   0% /run/user/0
overlay        overlay    42G   16G   24G  41% /var/lib/docker/overlay2/70c3b868a6cb864c435b576c483004e4d255d27006724db393decfe73aa79c80/merged
以上全部折腾完,剩余24GB,可见最低配置占用空间不多。
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

Archiver|手机版|小黑屋|雨研员工讨论版

GMT+8, 2025-5-5 16:28 , Processed in 0.056656 second(s), 25 queries .

Powered by Discuz! X3.4

Copyright © 2001-2021, Tencent Cloud.

快速回复 返回顶部 返回列表