大模型web服务部署—open-webui

这里我们使用的是一个叫做open-webui的开源项目

Open WebUI Demo

目前这个项目在Github 上已经得到了比较高的star 数

这个项目提供了多种部署方式，这里我们使用docker 进行部署，如果你的web 服务和你的模型服务在同一个节点上，可以使用下面的命令

docker run -d-p3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui

标签：前端

本文转载自: https://blog.csdn.net/king14bhhb/article/details/137197441
版权归原作者 不二人生 所有，如有侵权，请联系我们删除。