近日，《华尔街日报》报道称，人工智能公司 OpenAI 已开发出一款能够高精度识别 ChatGPT 生成文本的工具，但尚未正式发布。对此，OpenAI 予以回应，承认正在研究文本水印技术，但表示该技术仍面临诸多挑战。
据悉，OpenAI 计划通过文本水印技术专注于检测来自 ChatGPT 的文字，而非其他公司模型生成的内容。这种技术将对 ChatGPT 选择单词的方式进行微小调整，在文字中创建一个不可见的"水印"，之后可通过专门工具进行检测。
OpenAI 表示，文本水印只是他们探索的多种解决方案之一，其他方案还包括分类器和元数据等，旨在确定文本的来源。虽然在某些情况下文本水印技术表现出色，但面对翻译、改写或插入特殊字符等篡改行为时，其效果会有所下降。此外，该技术可能对非英语母语者等特定群体产生不成比例的影响。
鉴于上述复杂因素及其对整个生态系统的潜在影响，OpenAI 表示将谨慎推进文本溯源技术的研究，并优先考虑开发视听内容的认证工具。
这一决策引发了业界对 AI 生成内容识别和管理问题的广泛讨论。随着 AI 技术的快速发展，如何在保护创新与防范风险之间取得平衡，成为各方关注的焦点。
声明：内容均采集自公开的网站等各类媒体平台，若收录的内容侵犯了您的权益，请联系邮箱，本站将第一时间处理。