1. 首页
  2. 权威发布
  3. 详情页

秦小琼说 | 有图不一定有真相!警惕“野蛮生长”的AI谣言

2024-07-03 17:07:42 来源: 济南互联网联合辟谣平台

  “济南一高层住宅楼起火,多人跳楼逃生”“济南一农贸市场西红柿烂街头”“晨练大爷在济南英雄山附近发现坟中活人”……这些离谱的“重磅消息”曾在网上广泛传播,引起大量网友关注。济南市委网信办第一时间通过济南互联网联合辟谣平台进行了辟谣,但还是有不少人被它们“有图有真相”的表象迷惑,于是在错误的时间、错误的地点,相信了错误的它。据秦小琼所知,这些煞有介事的谣言其实是通过AI(人工智能)制作出来的。

  AI谣言之所以能“野蛮生长”,原因在于其门槛和成本低,只需简单输入关键词,AI软件便能自动抓取素材,生成看似权威且极具欺骗性的内容。前段时间,“造谣公司用AI一天写谣言7000篇”的新闻火了,据警方调查,这家MCN机构通过具有语音交互功能的AI软件生成虚假文章,再上传到多个网络平台,最高峰一天能生成4000至7000篇。其炮制的谣言,模仿新闻风格,包含了时间、地点等关键信息,还配发了所谓的现场图片,极具迷惑性。在这个流量为王的时代,很多不法分子为了赚取流量,不惜滥用技术,批量生产谣言。这种AI谣言利用公众对图片、视频、音频的天然信任,实现了快速传播。

  AI是社会发展进程中绕不开的内容,它正从方方面面影响我们的生活,与此同时,AI作为一种新技术所带来的不确定性,也给网络辟谣工作带来了一定挑战。我们应当保持警惕,及时遏制AI谣言的诞生与传播。

  面对AI谣言这个看不见的敌人,济南市委网信办展现出了积极的应对智慧。我们积极运用AI技术来对付AI谣言,通过建立舆情监测平台,使用大数据算法,实现对AI生成类谣言的有效监控和识别。

  其实,秦小琼觉得,面对来势汹汹的AI谣言,还需多方协同努力,源头方面要加大惩处力度,有力震慑心怀不轨的谣言生产者;平台方面要加强自媒体账号监管,注意内容审核;个人方面要加强“质疑”意识,提升甄别信息真伪的能力,不轻信不轻转,并且积极举报,共同筑起防范AI谣言传播的铜墙铁壁。

济南互联网联合辟谣平台©版权所有