近日,一组美国参议员向OpenAI首席执行官萨姆·奥特曼(Sam Altman)发出了一封重要的信函,要求他在2024年8月13日前,详细披露公司在安全措施和工作条件方面的信息。这一要求的背景是,媒体报道揭示了一些OpenAI的潜在安全风险,包括多名AI安全研究人员的离职、安全漏洞和员工的担忧。
![get-813 美国参议员要求OpenAI披露安全措施与工作条件](https://www.1ai.net/wp-content/uploads/2024/07/get-813.jpg)
图源备注:图片由AI生成,图片授权服务商Midjourney
这封信的发起与前员工的揭发有关,他们对OpenAI在AI开发中的安全措施提出了严厉批评。据报道,OpenAI的新AI模型GPT-4o在仅仅一周内便完成了安全测试,这种加速测试的做法引发了安全专家的担忧。这个新模型被曝可以通过简单的提示方式生成恶意内容,例如制作炸弹的说明书。
参议员们在信中强调,公众需要信任OpenAI在开发其系统时能够保持安全。这包括公司治理的完整性、安全测试的规范性、雇佣实践的公平性、对公众承诺的遵守以及网络安全政策的执行。他们指出,OpenAI之前向拜登政府做出的安全承诺,必须得到切实的兑现。
为回应参议员的要求,OpenAI已通过社交媒体平台发布了一些声明,提到了最近成立的安全与保障委员会、五级AGI的最新进展、准备框架以及对备受批评的员工合同的修订。OpenAI希望通过这些措施,能够证明其在安全和治理方面的改进。