由Microsoft Corp.支持的人工智能公司OpenAI首次封禁了一家开发了Chatbot的初创公司，该Chatbot模仿了民主党总统候选人Dean Phillips，这标志着OpenAI首次因开发者违反其AI滥用准则而采取审查措施。
Dean.Bot是由硅谷企业家Matt Krisiloff和Jed Somers创建的一个Chatbot。这对创业者成立了一个名为"We Deserve Better"的政治行动委员会，该委员会在新罕布什尔州初选前支持Phillips。
在首次报道这一消息的《华盛顿邮报》上述，OpenAI表示:“我们最近移除了一个明知违反我们API使用政策的开发者帐户，这些政策禁止进行政治活动或未经同意模仿个人。”
Dean.Bot确实提供了免责声明。在任何人与其互动之前，网站访客会被告知他们的所有问题的回答将由Chatbot生成，而不是Phillips本人。Dean.bot由名为Delphi AI Inc.的印度AI开发人员开发，该公司受托为该超级政治行动委员会完成此任务。
据报道，Delphi使用了OpenAI最强大的大型语言模型GPT-4来为Dean.Bot的回答提供动力。该公司的OpenAI帐户据称于上周五被暂停，然后Delphi停止了对Dean.Bot的访问权限。
在被封禁之前，Dean.Bot能够通过专用网站与选民进行实时对话。这一努力代表了生成式人工智能技术最有前景的早期用例之一，但也直接违反了OpenAI的使用政策。
本月早些时候，OpenAI在一篇博客文章中介绍了其采取的措施，以防止其技术在2024年可能成为关键的民主选举年被滥用。在OpenAI的博客文章中，该公司明确表示不允许人们开发用于政治活动和游说的应用，其中包括开发“模仿候选人的Chatbot”。
生成式人工智能的支持者表示，当技术被适当使用时，它可以以有趣的方式帮助教育选民。在"We Deserve Better"的案例中，它辩称Dean.Bot只是帮助人们更多地了解其候选人的创造性方式。
然而，许多专家警告称，生成式人工智能机器人可能会被滥用，模仿候选人欺骗人们认为他们正在与真正的人交谈，而不是Chatbot。人们还对生成式人工智能产生明显的虚假信息的能力感到担忧。