介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796
介绍vllm 的使用:https://www.dong-blog.fun/post/1781
介绍 Ollama 的使用: https://www.dong-blog.fun/post/1797
本篇博客玩个花的,Open WebUI 本身可以兼容openai 的api, 那来尝试一下。
仅供 OpenAI API 使用安装
如果您仅使用 OpenAI API,请使用此命令:
# 我当前在宿主机目录 /ssd/xiedongmkdir openwebui-test
cd openwebui-test
# 下面这个指令,换为自己的绝对路径挂进去
docker run -d --ipc=host -p 8081:8080 --gpus=all <
版权归原作者 XD742971636 所有, 如有侵权,请联系我们删除。