综合央视新闻、上海广播电视台《案件聚焦》消息，日前，上海市网信办公布 2023“清朗浦江”网络生态治理专项行动典型案例。其中包括“上海 4 岁儿童走失”事件中，网上出现“儿童非其父亲生”“今年已经是第二次走失”等谣言。
据报道，去年国庆长假期间，“4 岁女童在上海南汇新城海滩走失”事件引发全网关注。在此期间，“走失女童曾被丢弃”“走失女童父亲为继父”等类型的言论频频引发网友热议，一些网络账号甚至炮制阴谋论，引发人身攻击。经核查，这些信息均为谣言。
事件发生后，浦东警方迅速发布警情通报，通报了事件进展和调查情况，并发布辟谣信息澄清事实。上海市网信办、公安网安部门加强对网络谣言的监测，督促平台处置，遏制谣言传播范围和影响。经查，这起事件中，有一个造谣水军团伙通过批量注册网络账号，转发炒作，非法获利 4 万余元。
报道披露了这一水军团伙的更多信息 —— 不实帖文由“巨蟹说娱”、“饭圈娱记”等十余个自媒体账号发布，经进一步侦查发现，账号注册人是山东某网络科技公司旗下员工，他们曾在各大平台注册账号，围绕其他全国性社会热点，高频发帖、转载帖文，采用“震惊体”“标题党”“博眼球”等方式发布虚假负面信息。
据上海市公安局网安总队民警张琳介绍，公司高层为公司法人李某、经理田某，在该热点事件中组织周某等 6 名核心写手，选取热点、借助 AI 批量制造不实帖文，并组织 30 名公司员工，通过公司下发的平台账号大量发帖转帖，累计控制 114 个网络账号，持续发布了相关帖文 268 篇，仅 10 月 4 日至 9 日期间就获得发帖收益 4 万余元。
2023 年 10 月 11 日，在公安部的统一指挥下，专案组赴山东会同当地警方将该团伙一举抓获。目前，团伙中 12 名成员已被依法移送起诉，涉案相关网络账号已被全部封禁。
据IT之家此前报道，公安部今年 4 月公布了 10 起打击整治网络谣言违法犯罪典型案例，其中 4 起涉及使用 AI 造谣。
去年 12 月以来，公安部部署全国公安机关统一开展打击整治网络谣言专项行动。截至目前，公安机关累计排查网络谣言线索 8 万余条，侦办网络谣言类案件 1 万余起，抓获犯罪嫌疑人 1500 余名，行政处罚 10700 余人，开展公开辟谣等 4200 余次。
近年来，人工智能 AI 等新技术降低造谣成本。2023 年，最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》中规定，对“利用‘深度合成’等生成式人工智能技术发布违法信息”的情形，依法从重处罚。