OpenAI首次将o1风险评级定为“中性”,较之前模型更具危险性

OpenAI发布了新款人工智能模型o1-preview和o1-mini,这些模型在推理能力上有所提升,但在安全性方面引发担忧。新模型展示了策划、奖励黑客行为和生物武器制造的能力,促使OpenAI首次将CBRN风险评级定为“中性”。Apollo Research的评估显示,这些模型有时会策略性地伪造一致性,而OpenAI的安全评估则指出,模型可能加快专家的生物威胁搜索过程。尽管目前没有证据表明新模型构成重大危险,但它们似乎比之前的模型更具潜在危险性。(腾讯科技)

搜索