“光照” 是构成图像的核心要素之一,它影响着画面的风格、情绪及质感。在Stable Diffusion中,生成真实自然的光照效果对全新图像来说并不困难。然而,将已有主体融入新背景并确保两者的光照一致性,是决定它们是否能自然融合的关键,这对于Stable Diffusion的原生功能来说是一个挑战。那么,有没有更好的解决方法呢?
本文将详细介绍一款强大的光照控制插件 —— IC-Light。
一、什么是 IC-Light?
IC-Light(Imposing Consistent Light)是一种用于**操控图像照明**的技术。它通过捕捉背景图的光照信息来训练模型,并基于这些信息重新调整主体的光照,最后对整体图像进行微调,使其自然融合。
目前发布了两款模型:
text-conditioned relighting model
根据文本提示生成背景图后,IC-Light 根据背景图的光照信息重新调整主体的光照,最终实现自然融合。
background-conditioned model
手动输入一张背景图后,IC-Light 根据背景图的光照信息重新调整主体的光照,最终实现自然融合。
二、 IC-Light的特点与优势
- 良好的主体特征保留
- 主体光照自然且真实
- 主体与背景自然融合
三、IC-Light 的工作流程
第一阶段:将光照表示模块集成到扩散模型中,利用背景图像的光照信息进行训练。
第二阶段:将背景光照特征与环境贴图对齐,以提高物理准确性。
第三阶段:通过新数据模拟流在获得的真实图像数据集上对模型进行精细调整。
四、IC-Light 如何在 ComfyUI 中使用
IC-Light在ComfyUI中通过不同的节点进行使用,不同的Checkpoint模型对应的节点也有所不同。
ComfyUI-IC-Light(SD 1.5)
节点下载
模型下载
存放路径:ComfyUI/models/unet
- iclight_sd15_fc.safetensors:无背景图输入时使用,以文本和前景为条件,可以使用初始潜噪声去影响打光。
- iclight_sd15_fcon.safetensors:无背景图输入时使用,训练时使用了offset noise。受提示语的影响比 “iclight_sd15_fc.safetensors” 更强。
- iclight_sd15_fbc.safetensors:有背景图输入时使用,以文本、前景和背景为条件。
工作流
由于IC-Light主要依赖背景图来控制光照,因此可以根据获取背景图的方式分为三种工作流:
- 基于原始图背景
- 重新生成背景
- 导入背景
1. 基于原始图背景
此工作流仅通过提示语改变背景,然后根据新背景的光照信息调整主体,最终实现自然融合。
此工作流的特点:
- 背景构图受原始图约束
- 简单提示词描述即可
- 无法精准控制光照方向
- 主体颜色变化大
- 图像整体融合自然
2. 重新生成背景
此工作流需要使用蒙版,重新生成背景后,根据生成后的背景光照信息调整主体,最终实现自然融合。
此工作流的特点:
- 背景可依从提示词完全改变
- 对提示语的要求更高
- 无法精准控制光照方向
- 主体颜色变化大
- 图像整体融合自然
如下图所示,过于简单的提示语无法使主体与背景更好地融合。
3. 导入背景
此工作流通过输入背景图,作为光照信息采集样本,由此调整主体,最终实现自然融合。输入背景图的方式可分两种:
通过输入渐变背景图,可精准控制光照方向和颜色:
也可以导入实景背景图来引导前景光照,但由于前景和背景未经采样重塑,融合效果欠佳,而且需要精细的蒙版,因此不推荐使用:
总结
IC-Light 的优势体现在以下几个方面:良好的主体特征保留、真实自然的光照生成,以及主体与背景的自然融合。然而,你可能会注意到,主体的固有色会发生变化,这在某些应用场景下可能是不可接受的,例如电商产品图。
希望本文对你有所帮助,谢谢!
这里为了帮助大家更好地掌握 ComfyUI,分享一套字节大佬整理的ComfyUI工作流集合,其包含了很多好玩有趣,但又有点复杂的工作流节点和json配置。
涵盖了 Stable Scascade、3D、LLM+SD、Portrait Master、SVD 等相关类别的工作流,共计15个类目38项工作流。这些都放在了下方卡片,需要的点击免费获取:
对于初学者来说,最佳的学习方法是以这些现成的工作流为模板,一步步地复刻并理解它们。
通过观察和分析别人的工作流,你可以学习到各种节点搭建的技巧和方法。随着理解的深入,你将能够根据自己的需求创新和搭建属于自己的工作流。
希望本文能帮助你有效地提升你的设计效率和创造力。
对于从来没有接触过AI绘画的同学,我已经帮你们准备了详细的学习成长路线图。可以说是最科学最系统的学习路线,大家跟着这个大的方向学习准没问题。
这份完整版的AI绘画资料和SD整合包已经打包好了,需要的点击下方插件,即可前往免费领取!