Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

ControlNet++兼容并处理包括OpenPose和Canny边缘检测在内的十多种不同输入条件,可以理解为将Openpose和Canny这些模型合并成一个模型了。以简化流程并以后就不用频繁地进行模型切换了,当前Web UI及ComfyUI尚不支持此功能。

我们设计了一种新的架构,可以在条件文本到图像生成中支持 10 多种控件类型,并且可以生成在视觉上可与中途相媲美的高分辨率图像。该网络基于原始 ControlNet 架构,我们提出了两个新模块: 1 扩展原始 ControlNet 以使用相同的网络参数支持不同的图像条件。 2 支持多种条件输入而不增加计算卸载,这对于想要详细编辑图像的设计者来说尤其重要,不同的条件使用相同的条件编码器,无需添加额外的计算或参数。我们对SDXL进行了充分的实验,无论是控制能力还是美观评分都取得了优异的表现。我们将方法和模型发布到开源社区,让每个人都能享受到。

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

(ControlNet++项目文件资料链接在下方👇)

AIGC专区:
https://heehel.com/category/aigc

该模型的优点

ControlNet++使用像novelai一样的桶训练,可以生成任何长宽比的高分辨率图像

ControlNet++使用大量高质量数据(超过1000万张图像),数据集涵盖多种情况

ControlNet++使用像DALLE.3一样的重新字幕提示,使用CogVLM生成详细描述,良好的提示跟随能力

ControlNet++在训练期间使用许多有用的技巧。包括但不限于日期增强、多重损失、多分辨率

ControlNet++使用与原始ControlNet几乎相同的参数。网络参数或计算量没有明显增加。

ControlNet++支持10+控制条件,与独立训练相比,任何单一条件下性能均无明显下降

ControlNet++支持多条件生成,在训练过程中学习条件融合。无需设置超参数或设计提示。

喜好儿看见,ControlNet++与其他开源 SDXL 模型兼容,例如 BluePencilXL、CounterfeitXL。与其他 Lora 型号兼容。

Openpose 开放姿势

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Depth 深度

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Canny 精明的

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Lineart 线条艺术

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

AnimeLineart 动漫线条

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Mlsd 最小二乘法

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Scribble 涂

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Hed 赫德

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Pidi(Softedge) 皮迪(软边)

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Teed 特德

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Segment 部分

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Normal 普通的

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Multi Control Visual Examples 多控制视觉示例

Openpose + Canny

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Openpose + Depth 开放式+深度

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Openpose + Scribble 开放式 + 涂鸦

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet
Openpose + Normal 开放式 + 正常

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

Openpose + Segment Openpose + 分段

Xinsir新作ControlNet++:用于图像生成和编辑的一体化的ControlNet

0 条回复 A文章作者 M管理员
    暂无讨论,说说你的看法吧
今日签到
有新私信 私信列表
搜索