AI软件成造谣工具!这类消息千万别信
2024-04-25 09:02  来源:“央视新闻”微信公众号    
1

近日,公安部网安局公布了一批涉谣言典型案例,其中一起由安徽合肥警方破获的案件引发关注。

网络博主篡改火灾事实

炮制传播谣言

今年1月25日,安徽合肥市新站区佳海工业园一栋仓库发生火灾。消防部门接到警情后迅速赶往现场,在消防队员的奋力扑救下,火势很快被控制并扑灭。合肥消防当天发布火警通报:本次火灾过火面积约470平方米,无人员伤亡,火灾原因正在调查中。

当天,在某网络平台上出现一则关于这起火灾的消息,文中称:安徽合肥瑶海区新站佳海工业园发生火灾,造成多人伤亡,具体伤亡人数尚未公布。这则帖子一经发布,立即引发广泛关注,其中“巨大人员伤亡”的描述令网友们十分揪心。

这则与火警通报有出入的消息立刻引起了合肥警方的注意。警方经过调查发现,发布这则网络谣言的博主网名叫“会飞的鱼”,所在地为四川省成都市,而且帖子中出现的地区并非火灾的实际发生地。

最终,警方判定此帖为网络谣言,对造谣的网络博主林某某依法作出行政处罚。目前,林某某造谣的内容已被删除。

原本在安徽合肥发生的一起火灾,被四川成都的网络博主篡改事实、任意编造后发布在网络并传播。这样一则谣言到底是如何制造出来的?

为赚流量挣稿费

使用AI工具造谣、故意夸张描述

据警方了解,网络博主“会飞的鱼”为了批量生成此类信息,使用AI软件进行了辅助。该博主通过短视频平台看到了合肥的这起火灾报道,于是截取了相关媒体的报道图片,并复制了报道中的部分文字,然后把这些内容放到AI软件中生成文章,通过自己的账号发布在网络平台。

警方介绍,经过AI扩写后,报道文字从原本的伤亡情况尚不明确,直接被扩写成了“造成多人伤亡,具体伤亡人数尚未公布”。而嫌疑人为了让帖子内容更为丰富,再次进行扩写,增加了一些政府和消防部门到场处置的相关内容。嫌疑人将第二次扩写出来的文章发布,谣言帖子由此出现。

博主林某某称,当时只想让火灾文章的内容更丰富,以此来增加浏览量,并没有对火灾的真实情况进行认真核实。

警方发现,林某某在发帖时还故意使用了一些极其夸张的词语描述。为了突显火灾的严重程度,他在帖文中写道:“此次火灾中,许多人失去了家园和工作,造成了巨大的人员伤亡和财产损失。”他还配了几张浓烟滚滚的火灾现场图片,并用标红字体写到“是否有伤亡,情况不明”。而林某某这么做的本意是想把发帖当作副业,赚取稿费。

这些都是谣言,别信!

除了这起案件,近期网络上还有一些博主为赚取流量炮制的谣言——

谣言一:“路都没有 红绿灯亮了”

3月10日,有网络博主发布“路都没有 红绿灯亮了”的视频,引发网友关注。

经过安徽金寨县警方调查发现,该路段为交通部门设计的T字形路口,红绿灯目前主要用于指引左右转弯车辆通行,同时也为后期执行道路预留了通行规划。该网络博主在未核实的情况下,通过特定角度选择性拍摄,发布虚假信息,造成了恶劣社会影响。目前,博主盛某某已被金寨县警方依法处以行政处罚。

谣言二:“外省人来藤县偷小孩”

3月,广西梧州网警在工作中发现,本地藤县钟某某、余某某等7人,在短视频平台和公众号上发布“外省人来藤县偷小孩”的视频和文章。

经警方调查核实,该视频和文章实为钟某某、余某某等7人将一则好人好事拼接捏造成为所谓“偷小孩”的网络谣言,并进行传播。目前涉案钟某某等7人已被警方处罚,并责令删除不实视频信息。

谣言三:“义务教育改革缩短学制”

今年1月,南京孙某、苏州李某等人,为达到博取关注和提高楼盘销量等目的,编造传播“义务教育改革缩短学制”“高中纳入义务教育,南京在玄武区进行试点”等谣言信息,造成不良社会影响,扰乱公共秩序。目前,孙某、李某等7人已被警方依法分别予以行政处罚。

警惕使用AI杜撰事实的网络谣言

针对使用AI“洗稿”、杜撰新闻事实的网络谣言,警方提醒广大网友:

在上网浏览信息时要保持对信息来源的警惕性,尽量选择权威、可信赖的媒体或机构作为信息来源;

要注意网络新闻信息的逻辑性,如果发现一条新闻信息在逻辑上存在明显的漏洞或矛盾,它很可能是经过篡改或杜撰的;

切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时,可以先进行核实或者等待官方消息发布后再做判断。

标签:
责编:吕霞