文章总结： 本文介绍了如何在本地部署OpenWebUI，以实现完全离线的AI对话。它是一个开源、可自托管的大语言模型交互平台，能保障隐私安全。部署过程包括在CentOS上启动Docker、配置镜像源、下载并运行OpenWebUI容器，然后通过网页进行访问和配置，连接所需的大模型后即可开始使用。 综合评分： 80 文章分类： AI安全,安全开发,技术标准,解决方案,数据安全

本地部署 Open WebUI，实现完全离线 AI 对话

原创

TP微客 TP微客

技术分享交流

2026年3月29日 11:02 福建

1 前言

    Open WebUI（原 Ollama WebUI）是一款开源、可自托管、支持完全离线的大语言模型（LLM）交互 Web 平台，主打私有化部署与隐私安全，提供跟AI大模型的流畅对话体验。

2 搭建过程

(1)本地部署

在centos上通过如下命令启动docker：

 systemctl start docker

 该命令用于启动系统中的 Docker 服务，执行完成后，可通过 systemctl status docker 查看运行状态，确认服务启动成功。如果 Docker 未设置开机自启，也可以使用 systemctl enable docker 命令配置开机自动启动，避免服务器重启后需要手动再次启动服务。

配置镜像源

vi /etc/docker/daemon.json {  "registry-mirrors": ["https://mirror.tuna.tsinghua.edu.cn/"]}

 添加国内镜像源可以显著提升容器镜像拉取速度，避免因网络问题导致下载缓慢或失败。配置完成后，需要执行 systemctl daemon-reload 和 systemctl restart docker 使配置生效。

下载open-webui

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

 这条命令会以后台模式启动 Open WebUI 容器，将本地 3000 端口映射到容器内部 8080 端口，方便外部访问。同时挂载数据卷，保证配置、对话记录等数据持久化存储，容器重启后不会丢失。--restart always 确保容器异常退出或服务器重启时能够自动恢复。执行后等待镜像拉取完成，容器启动成功即可进入下一步。

(2)访问页面

打开open-webui的网址，使用如下网址和端口访问：

http://x.x.x.x:3000/

填写名称、电子邮箱、密码等信息

 首次访问会自动进入注册界面，这是系统的管理员账号创建流程。电子邮箱可以使用任意有效格式，无需真实验证，主要用于账号标识和后续登录管理。密码建议设置复杂度较高的组合，提升平台安全性，防止未授权访问。

点击确认，开始使用

(3)配置

点击配置，填写ollama相关的连接地址和端口

在ollma中下载你想要的模型

在open-webui中查看，就能看到你下载的大模型

(4)开始使用

通过直接输入你想要做的事情

例如：帮我写一个烟花绽放的html脚本，烟花自动升向空中，并绽放开来，烟花是五颜六色的，要考虑色彩搭配

 输入指令后，系统会调用已加载的大模型进行推理生成，响应速度取决于模型大小和服务器性能。生成的内容支持复制、导出，同时支持多轮对话上下文记忆，可连续追问和补充需求，满足代码编写、文案生成、问题解答等多种场景使用。

其实这就是一个ollama大模型的使用页面，不过这个我感觉挺好用的，接下来，我将继续研究用这个搭建一个属于自己的AI Agent。

欢迎关注「技术分享交流」公众号 ，如果有建议或者疑问的话，欢迎大家评论留言，如果喜欢公众号文章的话可以点【在看】，您的鼓励就是我的动力哈！！！

免责声明：

本文所载程序、技术方法仅面向合法合规的安全研究与教学场景，旨在提升网络安全防护能力，具有明确的技术研究属性。

任何单位或个人未经授权，将本文内容用于攻击、破坏等非法用途的，由此引发的全部法律责任、民事赔偿及连带责任，均由行为人独立承担，本站不承担任何连带责任。

本站内容均为技术交流与知识分享目的发布，若存在版权侵权或其他异议，请通过邮件联系处理，具体联系方式可点击页面上方的联系我。

本文转载自：技术分享交流 TP微客 TP微客《本地部署 Open WebUI，实现完全离线 AI 对话》