美国人工智能巨头 OpenAI 周三在一份旨在征求其产品规则反馈意见的文件中透露，他们正在探索 “负责任” 地允许用户制作 AI 生成的色情内容。
根据 OpenAI 目前的规则，性暗示内容甚至色情内容大多被禁止。但现在，OpenAI 正在重新审视这一严格的禁令。
OpenAI 在文件中表示:“我们正在探索是否可以在适当年龄段的环境下负责任地提供生成 NSFW 内容的能力。” 该公司表示，NSFW 内容包括不雅用语、极端血腥和色情。OpenAI 模型负责人 Joanne Jang 在接受 NPR 采访时表示，公司希望就其 AI 产品色情文本和裸体图像是否应该被永远禁止展开讨论。
与此同时，OpenAI 可能有一天会允许用户创建被视为 AI 生成的色情内容的图像。这也意味着 OpenAI 可能允许用户创建可能被视为 AI 生成的色情内容的图像。
在 OpenAI 重新审视其 NSFW 政策的讨论中，新型 AI 应用和服务可以将人的图像 “去衣”，这一问题在青少年中尤为起关注，形成了一种 “在学校迅速蔓延的新形式的同龄人性侵犯和骚扰”，这令人特别担忧。
此外，研究人员最近对高级人工智能技术最令人不安的用途之一 —— 创建所谓的深度伪造色情以骚扰、勒索或羞辱受害者感到越来越担心。在这一背景下，OpenAI 公布的文件包括一个 ChatGPT 的提示示例，涉及性健康，这是它能够回答的问题。但在另一个用户求聊天机器人写一段色情文字的例子中，该请求被拒绝了。但 OpenAI 的 Jang 表示，也许聊天机器人应该能够回答这个问题作为创意表达的一种形式，而这一原则也可能会扩展到图像和视频，只要不是滥用或违反任何法律。
然而，允许任何形式的 AI 生成图像或视频色内容都可能会被不法分子利用，并造成最严重的伤害。因此，即使是色情文本也可能被滥用。OpenAI 的 Jang 表示，“如果我的目标是创造色情内容，那我会去其他地方工作。”