警惕AI背后的陷阱,有图未必有真相!

近年来,AI技术迅速发展,已成为全球科技领域的热点。在不断迭代升级的AI技术面前,“眼见为实”“有图有真相”正在被挑战。AI低成本、高效率、操作简单,俨然成为一些别有用心之人的造谣敛财工具。

AI造谣

【AI造谣的定义】

  AI造谣指的是利用人工智能技术生成虚假信息,‌包括文字、‌图片、‌音视频等,‌以此来制造网络谣言。

  【AI造谣典型案例】

  案例一:利用AI软件编造“山体滑坡致8人遇难”网络谣言

2024年1月23日,有网民在某平台发布文章称:“云南山体滑坡灾害 已致8人遇难”。经查,违法行为人杨某某为获取流量牟利,搜集网络上的相关信息后,利用AI软件生成了“云南山体滑坡灾害 已致8人遇难”的虚假新闻信息,并发布在网络平台上,造成不良社会影响。目前,公安机关已依法对杨某某进行行政处罚。

  案例二:利用AI软件编造“喜德县地震”网络谣言 

 2024年6月9日,有网民在某视频平台发布视频称:“5月27日,四川省凉山彝族自治州发生5.0级地震,震中位于喜德县,地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡,灾情严重”。经查,5月27日凉山发生5.0级地震,震中位于木里县,无人员伤亡,部分房屋受损,违法行为人罗某某为吸引眼球、获取流量,利用AI软件生成虚假地震灾情图片,并在某短视频平台散布不实信息。目前,公安机关已依法对罗某某进行行政处罚。

案例三:利用AI软件编造“女子电动车被扣后猝死”网络谣言

2024年6月,某网络平台出现一条关于“执法与人性的碰撞:五旬妇女电动车被查扣猝死”的消息。该文章称:“澄城县一妇女为了照顾病重的父亲匆忙赶路,却遇到交警执法,在哀求无果、电动车被扣后,情绪瞬间崩溃,心脏病发作最终未能挺过这一关”。这篇“情节曲折”的文章引发网民广泛关注,给当地造成极大的负面影响。经调查,田某利用AI工具,加工生成了“澄城县城的一妇女电动车被查扣猝死”的虚假信息并发布至其某平台账号。目前,田某对自己通过AI软件编造谣言的情况供认不讳,公安机关依法对田某处以行政处罚。

  以上案例均是通过AI软件合成的不实信息,不法分子‌为了赚取平台奖励或吸引流量,‌使用AI软件自动生成文章,‌并与实际图片进行嫁接,‌发布在网络平台上,‌造成不良社会影响,严重扰乱社会公共秩序。

01、AI造谣软件会通过造谣者提供的关键字自动在网络上抓取相关信息,以热点新闻和随机网络音视频为素材,批量化生产网络谣言,投放到各大网络平台上,实现吸引眼球或流量变现的目的。

02、部分互联网平台奉行“流量至上”,放任假新闻、“标题党”、争议性话题传播,为AI谣言的大行其道提供了不良土壤,也催生了灰色产业链加速形成。

03、当网络谣言披上AI的外衣时,不但能自动生成文本,还能生成逼近真实的图片和音视频,让不存在的场景变得栩栩如生,让虚构的人物仿佛真实存在一般。这就完全颠覆了我们常规认知里的“有图就有真相”,使我们对网络谣言难辨真假。

如何防范

AI造谣

AI谣言已经成为亟需治理的一道网络新课题,那么在日常生活中,我们该如何擦亮眼睛,识别并抵制AI谣言呢?

克制好奇之心

面对新奇夸张的信息,先别急着一探究竟。AI造谣就是选择、抓取大家关注的话题来制造网络谣言,利用网民好奇心来进行传播。

核实不明来源

切记不要盲目相信和传播未经证实的信息。在社交媒体或网络上看到可疑信息时,可以先进行核实或者等待官方消息发布后再做判断。

关注权威渠道

在上网浏览信息时要保持对信息来源的警惕性,多订阅官方媒体、政府部门的账号,尽量选择权威、可信赖的媒体或机构作为信息来源。

常用逻辑分析

要注意网络信息的逻辑性,如果发现一条信息在逻辑上存在明显的漏洞或矛盾,它很可能时经过篡改或杜撰的。