AI生成视频编造谣言浙江首例团伙制作虚假视频案告破

2023-07-07 16:01:15
来源：央视网

(资料图)

央视网消息：公安部开展的网络谣言打击整治专项行动正在进行，近日，第2批10起典型案例公布，其中一个典型案例是绍兴警方破获的利用AI技术制作虚假视频编造网络谣言非法牟利案，该案也是浙江省首例团伙制作虚假视频案件。

虚假网络视频：据报道，浙江省绍兴市上虞区一工业园区内发生了火灾。

近日，浙江绍兴上虞网安民警在网上巡查时发现，有网民发布了关于绍兴上虞工业园区发生火灾的视频，并且在短时间内浏览量迅速上升，民警还发现该账号下同类型的视频涉及杭州、宁波等地，经核实均为谣言视频。经过进一步分析研判，民警锁定山东枣庄的一家科技公司有重大作案嫌疑，掌握证据后，警方立即展开收网行动，6月5日在山东枣庄将三名嫌疑人当场抓获。据嫌疑人交代，上虞火灾是他们利用AI技术合成的视频。

浙江省绍兴市公安局上虞区分局网安大队民警沈林丰：他们首先在网上搜集一些热门话题，通过AI一键生成视频，通过相应的视频号发布到网上，这样违反了视频真实性原则，很多东西都会出现张冠李戴、无中生有的现象。

据初步统计，自今年5月以来，该团伙利用AI技术在网上发布未经核实的虚假视频3000个以上，为了获得流量，博人眼球，不断利用AI技术散布谣言，以此牟利。

民警：这个怎么赚钱？

犯罪嫌疑人张某芹：就是往里面发这些内容，发视频、文章之类的。

民警：发文章就有钱了？

犯罪嫌疑人张某芹：有阅读量就会给收益。

目前，三名犯罪嫌疑人已经被绍兴上虞警方依法刑事拘留，案件还在进一步侦办中。