0


Open WebUI + openai API / vllm API ,实战部署教程

介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796

介绍vllm 的使用:https://www.dong-blog.fun/post/1781

介绍 Ollama 的使用: https://www.dong-blog.fun/post/1797

本篇博客玩个花的,Open WebUI 本身可以兼容openai 的api, 那来尝试一下。

仅供 OpenAI API 使用安装

如果您仅使用 OpenAI API,请使用此命令:

# 我当前在宿主机目录 /ssd/xiedongmkdir openwebui-test

cd openwebui-test

# 下面这个指令,换为自己的绝对路径挂进去
docker run -d --ipc=host -p 8081:8080 --gpus=all <
标签: openwebui openai api

本文转载自: https://blog.csdn.net/x1131230123/article/details/143250755
版权归原作者 XD742971636 所有, 如有侵权,请联系我们删除。

“Open WebUI + openai API / vllm API ,实战部署教程”的评论:

还没有评论