文章目录
前言
本篇文章介绍如何将Dify本地私有化部署，并且接入Ollama部署本地模型，实现在本地环境中部署和管理LLM，再结合cpolar内网穿透实现公网远程访问Dify。
Dify 它是一个开源 LLM 应用开发平台。拥有直观的界面结合了 AI 工作流、RAG 管道、代理功能、模型管理、可观察性功能等，可以快速从原型开发到生产。
Ollama 是一个本地推理框架，允许开发人员轻松地在本地部署和运行 LLM，例如 Llama 3、Mistral 和 Gemma。Dify 是一个 AI 应用开发平台，提供了一套完整的工具和 API，用于构建、管理和部署 AI 应用。
接下来在本地部署DIfy。
【视频教程】
Dify+Ollama+llava大模型本地搭建个人AI知识库并实现远程访问
1. 本地部署Dify应用开发平台
本篇文章安装环境：Linux Ubuntu22.04
使用Docker Compose部署：Docker 19.03 或更高版本、Docker Compose 1.25.1或更高版本
安装Dify之前，请确保你的机器已满足最低安装要求：CPU>2 Core RAM>=4GB
克隆 Dify 源代码至本地环境：
git clone https://github.com/langgenius/dify.git
启动Dify：
进入 Dify 源代码的 Docker 目录
cd dify/docker
复制环境配置文件
cp .env.example .env
启动 Docker 容器
sudo docker compose up -d
运行命令后，你应该会看到类似以下的输出，显示所有容器的状态和端口映射：
最后检查是否所有容器都正常运行：
docker compose ps
然后打开一个新的浏览器，输入localhost:80，或者本机IP地址:80,可以看到进入到了Dify中。
设置管理员账号：填写邮箱、用户名、密码后，再重新登录一下
可以看到进入到了Dify的主界面当中
接下来配置ollama模型
2. 使用Ollama部署本地模型
打开一个新的终端，输入下方命令安装ollama
curl -fsSL https://ollama.com/install.sh |sh
运行 Ollama 并与 Llava 聊天
ollama run llava
启动成功后，ollama 在本地 11434 端口启动了一个 API 服务，可通过
http://localhost:11434
访问。
接下来回到Dify中，接入Ollama模型。
3. 在Dify中接入Ollama大语言模型
在Dify主界面，点击右上角个人名字圆圈，点击设置——模型供应商——Ollama
点击填入：
- 模型名称：
llava - 基础 URL：
http://<本机IP地址>:11434此处需填写可访问到的 Ollama 服务地址。若 Dify 为 docker 部署，建议填写局域网 IP 地址，如：http://192.168.1.100:11434或 docker 宿主机 IP 地址，如：http://172.17.0.1:11434。若为本地源码部署，可填写http://localhost:11434。 - 模型类型：
对话 - 模型上下文长度：
4096模型的最大上下文长度，若不清楚可填写默认值 4096。 - 最大 token 上限：
4096模型返回内容的最大 token 数量，若模型无特别说明，则可与模型上下文长度保持一致。 - 是否支持 Vision：
是当模型支持图片理解（多模态）勾选此项，如llava。
点击 “保存” 校验无误后即可在应用中使用该模型。
**如果Ollama作为systemd服务运行，应该使用
systemctl
设置环境变量：**
- 通过调用
sudo vim /etc/systemd/system/ollama.service编辑systemd服务。这将打开一个编辑器。 - 对于每个环境变量，在
[Service]部分下添加一行Environment：
[Service]Environment="OLLAMA_HOST=0.0.0.0"
保存并退出
重载
systemd
并重启Ollama：
systemctl daemon-reload
systemctl restart ollama
然后再回到主页面当中，点击
创建空白应用
选择聊天助手，起一个名字，点击
创建
右上角选择llava模型
在文本框中编辑文字即可进行对话
目前我们在本机部署了Dify，并且还添加了Ollama大模型，如果想团队协作多人使用，或者在异地其他设备使用的话就需要结合Cpolar内网穿透实现公网访问，免去了复杂得本地部署过程，只需要一个公网地址直接就可以进入到Dify中。
接下来教大家如何安装Cpolar并且将Dify实现公网访问。
4. 公网远程使用Dify
下面我们在Linux安装Cpolar内网穿透工具,通过Cpolar 转发本地端口映射的http公网地址,我们可以很容易实现远程访问,而无需自己注册域名购买云服务器.下面是安装cpolar步骤
cpolar官网地址: https://www.cpolar.com
使用一键脚本安装命令
curl https://get.cpolar.sh |sudosh
安装完成后，执行下方命令查看cpolar服务状态：（如图所示即为正常启动）
sudo systemctl status cpolar
Cpolar安装和成功启动服务后，在浏览器上输入ubuntu主机IP加9200端口即:【http://localhost:9200】访问Cpolar管理界面，使用Cpolar官网注册的账号登录,登录后即可看到cpolar web 配置界面,接下来在web 界面配置即可：
4.1 创建远程连接公网地址
登录cpolar web UI管理界面后,点击左侧仪表盘的隧道管理——创建隧道：
- 隧道名称：可自定义，本例使用了: dify 注意不要与已有的隧道名称重复
- 协议：http
- 本地地址：80
- 域名类型：随机域名
- 地区：选择China Top
创建成功后,打开左侧在线隧道列表,可以看到刚刚通过创建隧道生成了两个公网地址，接下来就可以在其他电脑（异地）上，使用任意一个地址在浏览器中访问即可。
如下图所示，成功实现使用公网地址异地远程访问本地部署的Dify应用开发平台！
登录可以看到同样进入到了主界面中，继续使用自己创建的应用了
小结
为了方便演示，我们在上边的操作过程中使用了cpolar生成的HTTP公网地址隧道，其公网地址是随机生成的。
这种随机地址的优势在于建立速度快，可以立即使用。然而，它的缺点是网址是随机生成，这个地址在24小时内会发生随机变化，更适合于临时使用。
如果有长期远程访问本地 Dify开发应用平台或者其他本地部署的服务的需求，但又不想每天重新配置公网地址，还想地址好看又好记，那我推荐大家选择使用固定的二级子域名方式来远程访问。
5. 固定Dify公网地址
由于以上使用cpolar所创建的隧道使用的是随机公网地址，24小时内会随机变化，不利于长期远程访问。因此我们可以为其配置二级子域名，该地址为固定地址，不会随机变化.
注意需要将cpolar套餐升级至基础套餐或以上，且每个套餐对应的带宽不一样。【cpolar.cn已备案】
登录cpolar官网，点击左侧的预留，选择保留二级子域名，地区选择china vip top，然后设置一个二级子域名名称，填写备注信息，点击保留。
保留成功后复制保留的二级子域名地址：
登录cpolar web UI管理界面，点击左侧仪表盘的隧道管理——隧道列表，找到所要配置的隧道，点击右侧的
编辑
。
修改隧道信息，将保留成功的二级子域名配置到隧道中
- 域名类型：选择二级子域名
- Sub Domain：填写保留成功的二级子域名
- 地区: China VIP
点击
更新
更新完成后，打开在线隧道列表，此时可以看到随机的公网地址已经发生变化，地址名称也变成了保留和固定的二级子域名名称。
最后，我们使用固定的公网地址访问 Dify 界面可以看到访问成功，一个永久不会变化的远程访问方式即设置好了。
接下来就可以随时随地进行异地公网来使用Dify开发应用平台了，把固定的公网地址分享给身边的人，方便团队协作，同时也大大提高了工作效率！自己用的话，无需云服务器，还可以实现异地其他设备登录！以上就是如何在本地安装Dify并搭建Ollama的全部过程。
版权归原作者 内网渗透 所有， 如有侵权，请联系我们删除。