stable diffusion(Lora的训练)

以坤坤为例，上网随便找了几个坤坤的人脸图像，作为训练的数据集

1 训练环境搭建

建议看一遍教程，虽然这个up主好像不是很专业的样子，不过流程差不多是这样的，重点关注一下虚拟环境搭建完之后，在终端选择配置的操作，就是一堆yes no，的选项，跟着视频来就行了。

1.1 git clone 项目

本地找个训练环境存放的文件夹，利用git工具拉取训练webui环境

git clone https://github.com/bmaltais/kohya_ss.git

拉取后会有这样的目录，执行红框内的setup.bat文件就能安装训练的虚拟环境了（和之前搭建的SD框架虚拟环境类似，但是安装的python库版本会有所出入，如果不想有版本冲突的话，建议直接在这里就不需要操作任何配置了）

1.2 cuda加速安装

项目网站上有安装的教程，用于加速训练过程的，支持30和40系显卡

1.3 打开训练的webui

和打开SD webui类似，直接点击这个目录下的gui.bat文件，看到url网址出现就能打开网站了。

2 图片的预处理

简单来说训练过程中需要图像和对应的图像描述，类似于其他机器学习中的数据和标签。在stable diffusion的webui里可以找到图像预处理模块。输入到lora训练网络中的数据集应该长这样：

结果展示

2.1 裁剪

因为本文一开头搜集到的图像分辨率不一样，训练过程中最好使用同一的分辨率，这里可以通过剪裁网站批量处理人物图像。这里推荐使用512*512的分辨率。这个网站还能同一重命名图片，有强迫症的人很支持。

2.2 利用stable diffusion webui预处理

在ui的这个界面输入刚刚批量裁剪完的图像，和输出的目录。就能得到以下21张512*512并且带有描述文本的训练集了。

……这里坤坤的被预处理自动标记为1girl了，大家可以手动修改一下这个标签，然后检查其他的描述是否存在不合理的情况，酌情删除和增加即可。

3 模型的训练和使用

3.1 文件路径安排

回到lora训练的webui上，在dreambooth LoRA栏目下添加源模型，因为本次训练的是真实人物模型，笔者就选择了这个比较合适的大模型。

子栏目Folders按照这个格式放置刚刚处理的图片，这里的文件命名只需要注意10_cxk，前面的数字，是每次训练过程中网络训练单张图片的次数。其余的路径名大家可以自定义。

子栏目training parameter就是训练过程中需要炼丹的参数，大家根据自己电脑的配置来修改，数据量大的，显存足够的情况下，batchsize可以调高。学习率和epoch次数都是比较常见的修改参数。这里用了8个epoch去训练，每次epoch结束后都会保存当前的Lora模型。结果是这样的：

大家可以根据训练的loss值来选择计算机认为较好的结果，当然loss越小拟合得越好，太小则会过拟合，泛化性能不足。

3.2 lora模型挑选

刚刚一共训练了八个cxk_lora模型，但看loss值不好挑选最佳的模型，这里回到stable diffusion webui里，利用脚本来观察那个lora模型比较好。

3.2.1 插件安装

需要安装红框里的插件，才能利用脚本一次性使用多个lora进行对比，当然，大家可以不用插件，一个一个去生成，但是就是会比较麻烦，有插件就方便一些。

3.2.2 比较模型

把刚刚整完的lora模型放到这个插件的model/lora目录下，就能在界面看到这样的效果。记得大模型要选择你训练的时候的基底模型。附加网络随机选取，这个插件不用选择开启。但是网络类型和模型是需要选取的，为的是让后面的脚本能识别你要进行对比的lora模型。

脚本里这样设置，选择XYZ 绘图脚本

X轴类型选择刚刚插件内的额外网络模型（也就是你的Lora模型）

Y轴选择这个模型需要运用的程度，等价于prompt语法中的lora:cxk_model_xxx:0.5，因为有些情况下，会出现模型的过拟合，若是应用占比过大，反而效果不好。

出图结果：

可以看到拉，cxk_lora-7这个模型配合上0.9左右的占比，实现的效果比较好。

3.3 lora应用

选择刚刚合适的模型，放入到这个目录下（其实应该可以修改代码，这样就不用复制来复制去了。。还占用空间，不过fine拉，看代码也是个很长的过程）

然后就能在stable diffusion webui里愉快地出图啦~

这里的插件和脚本都不需要开启了。记得关闭。

相关链接

训练工程——kohya_ss

剪裁工具——photosoft