相比较微软的风生水起,苹果公司在 AI 领域的布局显得低调很多,但这并不意味着苹果在该领域就没有丝毫建树。苹果公司近日发布了名为“MGIE”的新型开源人工智能模型,它可以根据自然语言指令编辑图像。
图源:VentureBeat 与 Midjourney 合作制作
MGIE 的全称是 MLLM-Guided Image Editing,利用多模态大型语言模型(MLLM)解释用户指令并执行像素级操作。MGIE 可以理解用户下达的自然语言命令,进行 Photoshop 风格的修改、全局照片优化和局部编辑等操作。
苹果公司和加州大学圣巴巴拉分校研究人员合作,在 2024 年国际学习表征会议(ICLR)上发表 MGIE 相关研究成果,而 ICLR 是人工智能研究的顶级会议之一。
介绍 MGIE 之前,先来介绍下 MLLM。MLLM 是一种强大的人工智能模型,可以同时处理文本和图像,从而增强基于指令的图像编辑能力。MLLMs 在跨模态理解和视觉感知响应生成方面表现出卓越的能力,但尚未广泛应用于图像编辑任务。
MGIE 通过两种方式将 MLLMs 集成到图像编辑过程中:首先,它使用 MLLMs 从用户输入中推导出富有表现力的指令。这些指令简洁明了,为编辑过程提供了明确的指导。
例如,当输入“让天空更蓝”时,MGIE 可以生成“将天空区域的饱和度提高 20%”的指令。
其次,它使用 MLLM 生成视觉想象力,即所需编辑的潜在表征。这一表征捕捉了编辑的本质,可用于指导像素级操作。MGIE 采用了一种新颖的端到端训练方案,可联合优化指令推导、视觉想象和图像编辑模块。
MGIE 可以处理各种编辑情况,从简单的颜色调整到复杂的对象操作。该模型还可以根据用户的偏好执行全局和局部编辑。MGIE 的部分特性和功能包括:
-
基于指令的表达式编辑:MGIE 可以生成简洁明了的说明,有效指导编辑过程。这不仅能提高编辑质量,还能增强用户的整体体验。
-
Photoshop 风格修改:MGIE 可以执行常见的 Photoshop 风格编辑,如裁剪、调整大小、旋转、翻转和添加滤镜。该模型还可以应用更高级的编辑,如更改背景、添加或删除对象以及混合图像。
-
全局照片优化:MGIE 可以优化照片的整体质量,如亮度、对比度、清晰度和色彩平衡。该模型还能应用素描、绘画和漫画等艺术效果。
-
局部编辑:MGIE 可以编辑图像中的特定区域或对象,如脸部、眼睛、头发、衣服和配饰。模型还可以修改这些区域或对象的属性,如形状、大小、颜色、纹理和风格。
MGIE 是 GitHub 上的一个开源项目,用户可以找到代码、数据和预训练模型。该项目还提供了一个演示笔记本,展示如何使用 MGIE 完成各种编辑任务。