Instant ID 是 controlnet 比较新的一个模型,主要作用也是固定人物的面部特征。它可以仅通过一张图片进行完美换脸,可能是目前最强的脸部迁移模型。
Instant ID 技术在多个领域展现了其独特的优势,主要表现在以下几个方面:
1. 作为一种创新的ID保留方法,Instant ID 有效地解决了训练效率与ID保真度之间的矛盾。
2. 它具有可插拔性,与目前社区内的文生图基础模型、LoRAs、ControlNets等完全兼容,可以在推理过程中零成本地保持人物ID属性。同时,Instant ID 还保持了良好的文本编辑能力,使得ID可以平滑地嵌入到各种风格中。无论是添加装饰、改变发色还是更换套装,都能轻松应对。
3. 实验结果证明,Instant ID 不仅超越了目前基于单张图片特征进行嵌入的方法(如IP-Adapter-FaceID),而且在特定场景下与ROOP、LoRAs等方法相比也毫不逊色,且成本更低。
更详细的原理可以阅读Instant ID团队在 github 的解析:https://github.com/InstantID/InstantID
步骤一:使用前准备
如果你的 controlnet 没有 Instant ID 你需要到秋叶启动包更新一下扩展
此外,你还需要下载controlnet模型到本地的controlnet模型文件夹中
模型下载地址:
- ipadapter model
- ControlNet model
如果网络不好的话可以扫描右边的二维码加群获取,或者上esheep这个在线SD网站上体验
下载完还要改名字分别修改成 ip-adapter_instant_id_sdxl 和control_instant_id_sdxl,然后再放入这个文件夹中
步骤二:图生图设置
【大模型】必须上 SDXL 模型,因为目前 Instant ID 只支持 SDXL
我这里使用的是 DreamShaper XL V2.1 Turbo
该模型可以在 C 站上下载,访问不了的可以扫描右边二维码加入群聊获取
【采样方法】 DreamShaper XL V2.1 Turbo 模型必须使用 DPM++ SDE Karras
【采样步数】8
【尺寸】768*1024
【CFG 提示词相关性】大模型作者建议将CFG设置为 2,以获得最佳效果。
【重绘幅度】0.6
具体参数可以参考下图,局部重绘要把脸涂上
步骤三:ControlNet 设置
你的第一个单元必须是 embedding 和 ip-adapter 的组合
第一个单元是获取人脸特征的模型
你的第二个单元必须是 keypoints 和 control-instant-id-sdxl 的组合
这个单元是作为替换模版,在图生图中你可以不上传图像,sd 会自动使用你上面图生图上传的图像作为模板
步骤四:点击生成
以上参数设置好后点击生成。效果非常的逼真,除了边缘有一些瑕疵,可以调整蒙版边缘模糊度改善
注意事项
- 参数不是固定的,需要参考你的大模型提示,在我使用的DreamShaper XL V2.1 Turbo大模型是按照以上参数设置
- 尽量选择高清的面部素材可以达到更好的换脸效果