安全公司 Sysdig 近日发布报告,声称有大量黑客瞄准各大 LLM 大语言模型网络平台发动“LLM 劫持(LLMjacking)”攻击,黑客通过一系列方式盗取用户账号密码,将模型 API 转卖给第三方,还从用户的对话记录中选取隐私信息用于勒索或公开贩售。
Sysdig 表示,黑客们似乎“偏好”Anthropic Claude v2 / v3 平台,目前他们检测到黑客主要利用撞库及 PHP 框架 Laravel 的凭据漏洞(CVE-2021-3129)进行攻击,更多偏向企业用户,不知情的受害者可能每天需要替黑客买单超过 4.6 万美元(当前约 33.3 万元人民币)的 API 使用费。
此外,先前也有安全公司发现 Hugging Face 平台存在 API 凭据漏洞,允许黑客获取微软 / 谷歌 / Meta 的令牌,从而控制多家知名公司的模型库,目前 Hugging Face 已经修复相关漏洞。