ControlNet++兼容并处理包括OpenPose和Canny边缘检测在内的十多种不同输入条件,可以理解为将Openpose和Canny这些模型合并成一个模型了。以简化流程并以后就不用频繁地进行模型切换了,当前Web UI及ComfyUI尚不支持此功能。
我们设计了一种新的架构,可以在条件文本到图像生成中支持 10 多种控件类型,并且可以生成在视觉上可与中途相媲美的高分辨率图像。该网络基于原始 ControlNet 架构,我们提出了两个新模块: 1 扩展原始 ControlNet 以使用相同的网络参数支持不同的图像条件。 2 支持多种条件输入而不增加计算卸载,这对于想要详细编辑图像的设计者来说尤其重要,不同的条件使用相同的条件编码器,无需添加额外的计算或参数。我们对SDXL进行了充分的实验,无论是控制能力还是美观评分都取得了优异的表现。我们将方法和模型发布到开源社区,让每个人都能享受到。
(ControlNet++项目文件资料链接在下方👇)
AIGC专区:
https://heehel.com/category/aigc
该模型的优点
ControlNet++使用像novelai一样的桶训练,可以生成任何长宽比的高分辨率图像
ControlNet++使用大量高质量数据(超过1000万张图像),数据集涵盖多种情况
ControlNet++使用像DALLE.3一样的重新字幕提示,使用CogVLM生成详细描述,良好的提示跟随能力
ControlNet++在训练期间使用许多有用的技巧。包括但不限于日期增强、多重损失、多分辨率
ControlNet++使用与原始ControlNet几乎相同的参数。网络参数或计算量没有明显增加。
ControlNet++支持10+控制条件,与独立训练相比,任何单一条件下性能均无明显下降
ControlNet++支持多条件生成,在训练过程中学习条件融合。无需设置超参数或设计提示。
喜好儿看见,ControlNet++与其他开源 SDXL 模型兼容,例如 BluePencilXL、CounterfeitXL。与其他 Lora 型号兼容。
Openpose 开放姿势
Depth 深度
Canny 精明的
Lineart 线条艺术
AnimeLineart 动漫线条
Mlsd 最小二乘法
Scribble 涂
Hed 赫德
Pidi(Softedge) 皮迪(软边)
Teed 特德
Segment 部分
Normal 普通的
Multi Control Visual Examples 多控制视觉示例
Openpose + Canny
Openpose + Depth 开放式+深度
Openpose + Scribble 开放式 + 涂鸦
Openpose + Normal 开放式 + 正常
Openpose + Segment Openpose + 分段