Ollama(docker)+ Open Webui(docker)+Comfyui

Windows 系统可以安装docker desktop 相对比较好用一点，其他的应该也可以

比如rancher desktop podman desktop 安装需要windows WSL

安装ollama docker

docker run -d --gpus=all -v D:\ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

这里需要注意一下

下载模型

docker exec -it ollama ollama run gemma:7b 可以下载相应的模型

docker exec -it ollama ollama run llama3 类似的命令下载不同的模型

验证ollama运行的情况

安装Open WebUI docker

本机上上安装了Ollama，可以使用以下命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

接着就是打开Open WebUI

关联ollama 以及大模型

设置和ComfyUI 关联

http://host.docker.internal:8188

上面的地址别搞错了

回到大模型

可以聊天，可以画画

画画可以选择如下