最近，旧山市副市长律师 Yvonne Meré 发起了一场针对16个网站的诉讼，这些网站利用人工智能技术制造深度伪造色情内容，未经女性和女孩的同意就将她们的照片处理成裸体。这一前所未有的法律行动，旨在打击这些在青少年中愈演愈烈的有害趋势，尤其是那些利用 “脱衣应用” 来操控自己同学图片的青少年男孩。
图源备注:图片由AI生成，图片授权服务商Midjourney
根据《纽约时报》的报道，这16个被起诉的网站在今年前六个月内共被访问了2亿次。负责这些网站的公司分布在加利福尼亚、新墨西哥、英国和爱沙尼亚等地。记者试图联系这些网站的代表，但要么没有回应，要么没有人可以接受采访。有的网站甚至用 “想让她脱衣吗?” 的语句来宣传他们的服务，另一些则直接鼓励用户通过这些网站获取女性的裸照。
值得注意的是，这些网站通常提供免费初步的图片，但后续处理则需要收费，付款方式包括加密货币或信用卡。使用的深度伪造技术依赖于用真实的色情图像和儿童虐待图像训练的 AI 模型，以生成看起来真实的裸体照片。旧金山的市检察官 David Chiu 强调，相关责任人的惩罚几乎微乎其微，并指出，图像一旦传播，找到原始网站变得相当困难，这让受害者追求法律救济的过程更加复杂。
Sara Eisenberg 负责一个聚焦社会重大问题的法律单位，她指出，单靠教育青少年安全使用技术是远远不够的。任何照片都可能被无授权处理，传统的保护措施已经无法奏效。Eisenberg 说:“即使孩子们掌握了互联网和社交媒体的使用技巧，仍然无法阻止有人利用这些网站做出极其恶劣的事情。”
这场诉讼不仅寻求关闭这些网站，还希望永久禁止他们继续制造深度伪造色情内容，同时要求支付民事罚款和律师费。诉讼书称，这些网站违反了国家和地方的报复色情法律、儿童色情法律以及加利福尼亚的不公平竞争法，后者禁止非法和不公正的商业行为。
Meré 表示，看到《纽约时报》上有关深度伪造图像的危害后，她立即与 Eisenberg 联系，并寻求 Chiu 的支持来制定诉讼。Chiu 提到，从泰勒・斯威夫特到普通中学生的深度伪造裸照屡见不鲜，且几乎没有人会受到惩罚。专家警告说，深度伪造色情内容对受害者的心理健康、声誉、大学和工作前景产生严重影响。
虽然 Chiu 也承认这种方式可能会让新网站如同 “打地鼠” 一般层出不穷，但他们希望随着问题的不断演变，能够将更多的新网站纳入起诉范围。作为人工智能产业的中心，旧金山正是这场法律斗争的适宜地点。Chiu 指出，尽管人工智能行业的贡献是积极的，但深度伪造色情内容的出现则是需要解决的 “黑暗面”。