0


丹摩征文活动 | SD3+ComfyUI模型图文部署:AI工程师的实践与探索

文章目录

一、实践感想

在丹摩智算平台上部署SD3+ComfyUI图文模型的过程中,我感受到了极高的效率和便捷性,尤其是在处理图文生成任务时表现尤为出色。作为一名AI工程师,我对平台的计算能力和操作简便性有着严格的要求,而丹摩智算正好满足了这些需求。

丹摩智算平台的界面用户友好,功能布局合理,使得整个部署过程非常直观。即使是面对复杂的图文模型,我也能快速完成环境配置和资源分配。这种便利性不仅节省了时间,更让我能够专注于模型的性能调优和结果优化。

平台提供的计算资源非常丰富,特别是针对AI任务进行了优化。无论是GPU的选择还是内存的配置,都能根据模型的不同需求进行灵活调整。对于SD3+ComfyUI这种需要大量计算资源的模型,平台的高性能计算能力和扩展性确保了模型的顺畅运行和高效处理。

在实际操作中,丹摩智算的平台稳定性也给我留下了深刻印象。整个部署和运行过程中,系统响应迅速,无任何中断或延迟,这为我在项目开发和实验时提供了强有力的保障。

二、部署流程

登录至丹摩智算控制台,进入GPU云实例页面后,我可以轻松启动新实例。只需选择相应的配置选项,即可为AI项目迅速搭建所需的计算资源。

在这里插入图片描述

进入创建页面后,首先在实例设置中选择合适的付款方式。若需求时间较短,可以选择按需付费或按日套餐;若为长期使用,则包月套餐可能更为经济。接着,确定所需的GPU数量及型号。

对于新用户,建议初次配置时选择按次计费,搭配一个NVIDIA-GeForce-RTX-4090 GPU,该配置提供60GB内存和24GB显存(例如,LLaMA3.1 8B版本至少需要16GB显存)。然后,设置数据硬盘容量。默认情况下,每个实例附带50GB硬盘;若使用FLUX.1等大型模型,建议将硬盘扩容至150GB以确保流畅运行。

在这里插入图片描述

接下来,需要的镜像进行安装。平台提供了一系列基础镜像,可以快速配置好环境。每个镜像都预装了相关的基础工具和框架,可以通过勾选选项来筛选所需的框架。假如需要使用PyTorch,那么可以选择PyTorch 2.4.0版本。

在这里插入图片描述

为了确保安全地进行登录,请首先生成一对密钥。可以为该密钥对设置一个自定义名称,然后选择自动生成选项。生成完成后,请务必将私钥下载并安全地存储在的计算机上,以便以后可以使用该密钥进行本地连接。

在这里插入图片描述

生成密钥对后,选中刚生成的密钥对并点击立即创建。经过短暂等待,实例便会顺利启动,使我能够迅速进入工作状态并开展AI工程项目。

三、登录实例

在实例完成创建后,可在GPU云实例面板中查看详细信息。

在这里插入图片描述

平台支持通过JupyterLab在线访问实例,您可以直接登录进行操作。这个入口为我提供了便捷的开发环境,省去了复杂的连接步骤。

在这里插入图片描述

登录成功后,您会进入

/root/workspace

目录。服务器路径各有其功能:

/

是会在系统重置时清空的系统盘;

/root/workspace

是可扩展的数据盘,重置时数据保留;

/root/shared-storage

是跨实例的共享存储。

SSH是一种连接方式,支持各种终端软件,登录需四项信息:用户名、主机域名或IP、端口号及密钥。其中主机和端口可在实例页面获取,这些信息确保您可以安全高效地远程访问服务器。

在这里插入图片描述

复制结果类似如下:

ssh -p 31729 [email protected]

在这里,

gpu-s277r6fyqd.ssh.damodel.com

代表服务器的主机地址,而

31729

是它的端口号。有关SSH登录及密钥对的详细教程,请查看这篇指南。

四、部署ComfyUI

打开终端,输入相应命令以获取ComfyUI的代码库。

# github官方代码仓库git clone https://github.com/comfyanonymous/ComfyUI.git
# gitCode-github加速计划代码仓库git clone https://gitcode.com/gh_mirrors/co/ComfyUI.git

完成克隆操作后,会在文件夹中看到以下结构。

在这里插入图片描述

在终端中导航到

/root/workspace/ComfyUI

文件夹后,运行指定命令来安装所需依赖,这一步是确保ComfyUI环境顺利配置的关键。

cd ComfyUI/
pip install -r requirements.txt --ignore-installed

通过运行这条命令,我可以立即激活ComfyUI。

python main.py --listen

在这里插入图片描述

当看到服务正常运行的提示时,我就知道ComfyUI已经顺利完成部署。

五、部署SD3

使用HF镜像下载SD3模型让我感到快速且便捷。

pip install -U huggingface_hub

#设置环境变量
export HF_ENDPOINT=https://hf-mirror.com
#下载模型
huggingface-cli download --token hf_BbwgWIQLalWXUdHgvDGPDZpnLxo --resume-download stabilityai/stable-diffusion-3-medium --local-dir.

六、图像生成

在这里插入图片描述


本文转载自: https://blog.csdn.net/L040821/article/details/143840078
版权归原作者 剑指~巅峰 所有, 如有侵权,请联系我们删除。

“丹摩征文活动 | SD3+ComfyUI模型图文部署:AI工程师的实践与探索”的评论:

还没有评论