研究发现黑客可轻松操控 AI 机器人,将其变成致命武器

宾夕法尼亚大学的研究人员发现,一系列人工智能增强型机器人系统存在严重的漏洞,容易受到黑客攻击和控制。

研究发现黑客可轻松操控 AI 机器人,将其变成致命武器

IEEE Spectrum 的一份报告引用了令人震惊的例子,例如被黑客攻击的机器狗将火焰喷射器对准主人、引导炸弹到最具破坏性的地点,以及自动驾驶汽车故意撞向行人。

据1AI了解,宾夕法尼亚工程学院的研究人员将他们开发的基于 LLM 的机器人攻击技术称为 RoboPAIR。来自三个不同机器人供应商的设备都受到了 RoboPAIR 黑客攻击:英伟达支持的海豚 LLM、Clearpath Robotics Jackal UGV 和 Unitree Robotics Go2 四足机器人。研究人员表示,RoboPAIR 在黑客攻击这些设备方面取得了 100% 的成功率。

宾夕法尼亚工程学院电气系统工程、计算机与信息科学、机械工程与应用力学系运输学教授乔治・帕帕斯(George Pappas)警告称:“我们的研究表明,目前,大型语言模型与物理世界集成时还不够安全。”

其他研究人员指出,黑客攻击人工智能控制的机器人“惊人地容易”。他们解释说,RoboPAIR 通过配备目标机器人的应用程序接口(API)来工作,这样攻击者就可以以一种设备目标能够作为代码执行的方式来格式化提示词(prompts)。

研究论文得出结论,迫切需要实施防御措施来物理限制 LLM 控制的机器人。

声明:内容均采集自公开的网站等各类媒体平台,若收录的内容侵犯了您的权益,请联系邮箱,本站将第一时间处理。
资讯

我国中部地区最大智算中心在河南郑州正式投产,全部建成后规模超 10 万 P

2024-11-26 9:27:00

资讯

消息称三星正与 OpenAI 洽谈,有望令 Galaxy AI 整合 ChatGPT 服务

2024-11-26 9:30:01

搜索