Pindrop 公司宣布推出 Pulse Inspect,这是一个基于网页的工具,能够以99% 的高准确率检测任何数字音频或视频文件中的 AI 生成语音。作为 Pindrop Pulse 产品套件的一部分,Pulse Inspect 的特点是可以识别各种工具或 AI 模型生成的音频,这在行业内是一个相当独特的功能,因为大多数 AI 供应商通常只开发能够检测自己工具生成内容的分类器。
Pulse Inspect 目前正在进行预览,专为那些希望大规模应对音频伪造风险的组织提供服务。Pindrop 的首席执行官 Vijay Balasubramaniyan 表示,他们也可能根据市场需求推出更实惠的定价方案,针对一些偶尔需要检测的消费者。
随着文本生成 AI 系统的兴起,音频伪造的现象变得更加普遍。一些流行的生成 AI 工具,例如来自微软和 ElevenLabs 的工具,已经被利用来模仿名人、商界人士和政客的音频和视频,这导致了广泛的错误信息和诈骗行为,影响了他们的公众形象。Pindrop 的一份内部报告显示,超过1200万美国成年人知道有人曾经未经同意创建伪造内容。
Pulse Inspect 的核心功能是一个网页应用,用户只需上传可疑的音频文件,就能在几秒钟内获取 “伪造分数”,并显示出包含 AI 生成语音的部分。这种快速反馈可以帮助组织采取积极的措施,防止虚假信息的传播,维护品牌信誉。
Pindrop 表示,他们的深度伪造检测模型经过训练,使用了350多种伪造生成工具、2000万独特语句以及40多种语言,这使得他们检测伪造音频方面的准确率达到了99%。此外,Pulse Inspect 还能识别同时包含 AI 生成和真实元素的混合媒体文件。
Pulse Inspect 并不局限于特定供应商的检测,能够覆盖350多种生成工具。Pindrop 目前的目标用户包括媒体公司、非营利组织、政府机构、明星管理公司、法律公司以及社交媒体网络等。除了网页应用,Pulse Inspect 还可以通过 API 集成到定制的取证工作流中,支持批量使用。
未来,Pindrop 计划进一步 Pulse 产品套件的可解释性,力求实现追溯伪造内容生成源的功能,并支持更多的媒体类型。
产品入口:https://www.pindrop.com/products/pulse-inspect