最近，一位中国香港跨国公司的财务专业人员在视频会议中被深度伪造的伦敦首席财务官欺骗，损失高达2500万（2亿港元）美元。据报道，伪造视频是通过利用过去真实在线会议的录音制作而成，同时利用WhatsApp、电子邮件和一对一视频会议，增强了欺诈的深度和可信度。
这位香港职员参加了一次视频聊天，其中他的首席财务官出现在画面中，但表现得有些不对劲。他一开始感到怀疑，但当他认出其他同事似乎也加入了通话时，他的紧张情绪得到了缓解，据香港警方透露。
图源备注：图片由AI生成，图片授权服务商Midjourney
伪造的首席财务官在通话中越来越急切地请求执行资金转账，而受害者则遵循通话中给出的指令，最终在五家本地银行账户中进行了15次转账。
这些通过人工智能生成的视频据称是从过去的真实在线会议中创建的。为了增加欺诈的深度和可信度，犯罪分子还利用了WhatsApp、电子邮件以及与香港员工的一对一视频会议。
香港特区网络安全及科技罪案调查科网络安全组署理高级警司陈纯青表示，诈骗犯在事先下载了视频，然后使用人工智能添加虚假的声音用于视频会议。
值得注意的是，这不是香港唯一利用深度伪造技术进行欺诈的案例。根据CNN的报道，香港警方在上周的新闻发布会上透露，他们已经逮捕了与其他深度伪造诈骗有关的六名嫌犯，并且至少已经有20次使用AI深度伪造欺骗人脸识别软件的记录。
深度伪造问题也在全球范围内存在。上周，美国参议员提出了一项两党法案，允许在非自愿的AI生成淫秽深度伪造视频中被描绘的受害者起诉视频的制作者。
这一举措是在泰勒·斯威夫特的性暴露AI生成图像在社交媒体平台上广泛传播之后提出的——在X/Twitter上，这些图像在马斯克拥有的站点封锁对这位流行偶像的搜索之前，已经吸引了数千万的观看次数。
印度在去年11月出现了类似的问题，当时一段相对较不露骨但仍然侵犯个人和职业隐私的AI生成视频出现在印度演员拉什米卡·曼丹纳的网上。印度IT部长拉吉夫·钱德拉塞卡尔据说在一月底警告称，社交媒体平台将对其用户发布的深度伪造视频负责。