作为目前发展最快的对抗性人工智能形式之一，深度伪造（Deepfakes ）相关的损失预计将从2023年的123亿美元飙升至2027年的400亿美元，复合年增长率将达到惊人的32%。德勤预计，未来几年深度造假将激增，银行和金融服务将成为主要目标。
Deepfakes 是对抗性 AI 攻击的前沿，仅去年一年就增长了3，000%。预计到2024年，Deepfakes 事件将增加50% 至60%，今年 全球预计将有140，000-150，000起此类事件。
最新一代的生成式人工智能应用、工具和平台为攻击者提供了快速、低成本地创建深度伪造视频、模仿声音和欺诈性文档所需的一切。Pindrops 的《2024年语音情报和安全报告》估计，针对联络中心的深度伪造欺诈每年造成的损失估计为50亿美元。他们的报告强调了深度伪造技术对银行和金融服务的严重威胁
彭博社去年报道称，“暗网上已经出现了一个完整的家庭手工业，出售价格从20美元到数千美元不等的诈骗软件。”最近，基于Sumsub 的《2023年身份欺诈报告》的一张信息图提供了人工智能欺诈快速增长的全球视角。
三分之一的企业没有应对对抗性人工智能攻击风险的策略，这种攻击最有可能始于其关键高管的深度伪造。Ivanti的最新研究发现，30% 的企业没有识别和防御对抗性人工智能攻击的计划。
Ivanti 2024年网络安全状况报告发现，74% 的受访企业已经看到了人工智能威胁的证据。绝大多数（89%）认为人工智能威胁才刚刚开始。在 Ivanti 采访的大多数 CISO、CIO 和 IT 领导者中，60% 的人担心他们的企业没有做好防御人工智能威胁和攻击的准备。使用深度伪造作为包括网络钓鱼、软件漏洞、勒索软件和 API 相关漏洞在内的精心策划的策略的一部分正变得越来越普遍。这与安全专业人员预计由于新一代人工智能而变得更加危险的威胁相一致。