Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

1 月 24 日消息,Anthropic 公司最新推出了名为“Citations”(引用)的 API,顾名思义,该功能可以为 AI 生成的内容提供参考来源,并嵌入原始文件链接,将 AI 答案关联用户提供的文档(例如电子邮件或 PDF)。该功能已在 Anthropic 的 API 和 Google Cloud 的 Vertex AI 平台上上线。

Anthropic 发布 Citations API,迎战 AI 信息来源验证挑战

注:开发者目前依赖复杂的提示词,在 AI 输出中嵌入引用,这种方法通常会导致结果不一致,并且对提示工程的需求很高。

“Citations”简化了这一过程,允许开发者直接在 API 的上下文窗口中附加源文档。Claude 会自动在其回复中引用这些来源中的相关句子和部分,从而降低幻觉风险并提高问责性。

“Citations” API 无需定制提示工程,针对 AI 生成的内容,可以精准链接到源文件中的特定句子和段落,从而简化了开发流程。内部评估显示,“Citations”相比自定义实现方案,召回准确率(recall accuracy)最高提升 15%。

声明:内容来源公开的各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

Hugging Face 最小 AI 视觉语言模型登场:2.56 亿参数,内存低于 1GB PC 也能驾驭

2025-1-24 21:37:24

资讯

OpenAI 阿尔特曼:ChatGPT 用户可免费体验 o3-mini,付费用户将获得更多额度

2025-1-24 21:42:30

搜索