谷歌 Play商店宣布整顿生成式 AI 类 App:必须限制不当内容传播

谷歌针对 AI 类应用程序更新了指导方针,目标是减少“不适当的”和“被禁止的”内容。

谷歌 Play商店宣布整顿生成式 AI 类 App:必须限制不当内容传播

谷歌在新的政策中指出,提供生成式 AI 功能的应用必须防止生成受限制的内容,包括色情内容、暴力等,并要求应用对其 AI 模型进行“严格测试”

这些规则适用于多种应用程序,简要汇总如下:

  • 以文本、语音和图像提示输入的任何组合,经由生成式 AI 产生内容的 App。

  • 聊天机器人类、图像生成类(文生图、音生图、图生图)、语音及视频生成类 App。

  • 不适用于“仅仅承载”AI 内容的 App,或将 AI 用作生产力工具的 App

谷歌Play 明确,AI 生成的违规内容包括不限于如下案例:

  • 人工智能生成的未经同意的深度伪造性材料。

  • 为诈骗提供便利的真人语音或视频记录。

  • 鼓励有害行为(如危险活动、自我伤害)的内容。

  • 为助长欺凌和骚扰行为而生成的内容。

  • 主要是为了满足“性需求”的内容。

  • 使不诚实行为成为可能的 AI 生成“官方”文件。

  • 创建恶意代码。

谷歌未来还将增加新的应用上架功能,力图使向商店提交生成式 AI 应用的过程变得更为公开透明、简单化。

声明:内容均采集自公开的网站等各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

Wix推出AI工具,通过文本描述生成iOS或Android应用

2024-6-7 9:55:19

资讯

华为与中山大学眼科中心发布 ChatZOC 眼科大模型,服务效率提升 75%

2024-6-8 9:17:36

搜索