当前，人工智能快速发展，给人们的生产生活带来了许多便利。然而，人工智能也被用于制造并发布谣言、不实信息，这可能会给部分群众带来困扰。今年4月，中央网信办安排开展“清朗·整治AI技术滥用”专项行动，该行动聚焦于利用人工智能制作发布谣言、不实信息等混乱现象，展开重点整治 。
“AI谣言”有多种表现形式，比如从伪造的“暴雨引发山体滑坡”视频到AI生成的“核电站泄漏”新闻稿，这让不少群众一度信以为真 ，记者针对“AI谣言”从何而来、为何泛滥、如何整治进行了采访 。
缘何出现？
有人恶意用AI编造虚假信息，也存在“AI幻觉”的可能
一组声称源于第七次全国人口普查的数据骇人听闻，其中提到“80后5.2%的死亡率，开启了黄金一代的黯然离场”，还提到“80后的死亡率已经超过70后” 。很快，有关部门和专家辟谣，称从来源到数据都毫无根据 。
这组虚假数据从何而来呢？
中国人民大学人口与健康学院教授李婷梳理后发现，“AI幻觉”极有可能是“罪魁祸首”，AI大模型在人口学专业领域的训练语料不够充足，回答问题时出现了推算错误，进而造成了“AI幻觉”。
“AI幻觉”是指生成式人工智能系统在没有明确依据的情况下输出回答，其语言表达看起来合理，然而内容实际上是虚假的，甚至违背常识。世界互联网大会人工智能专业委员会主任委员、安全与治理推进计划牵头人曾毅介绍，这种现象在当代大语言模型中特别常见，主要表现为事实性幻觉，比如，输出错误的人物事迹与关系、伪造的科学研究等 。
曾毅分析，从机理上看，当前大模型并非“理解事实”，而是通过处理大量语料来预测“下一个词最可能是什么”，这就会在事实性信息上产生难以预期的错误 。
还有人别有用心，恶意编造传播“AI谣言”获取利益。
有人为获取流量，对自媒体账号进行炒作以吸引粉丝。在上海一女童走失事件中，有团伙利用AI工具，编造了“女孩父亲系继父”等谣言，在6天内发布了268篇文章，其中多篇文章的点击量超过100万次。
还有人利用此机会实施诈骗等违法犯罪行为 。不久前 ，中国体育彩票的一则辟谣声明引发了关注 。声明称 ，有平台声称能够通过 “AI大模型” 预测中奖号码 ，并诱导用户付费 ，而实际上 “再强大的AI也无法预测中奖号码” 。
甚至有人构建起了“需求分析—内容生产—精准投放”这样的生产链条 。一天 ，一则“图文并茂”的新闻在网上传播开来 ，其画面中火光冲天 ，引发了当地群众的恐慌 ，新闻内容为“西安突发爆炸！火光冲天！伤亡不明！” 。很快 ，这则消息被证实是谣言 。经调查发现，该账号所属机构借助AI分析社交平台热词，针对关注度高的话题批量制造谣言，接着通过算法定向推送，最高峰时一天能生成4000至7000篇假新闻，关联账号达800余个，相关人员已被公安机关抓获。
为何泛滥？
造谣门槛低，可以短时间内成倍率传播
“AI谣言”种类繁多，有些引发了社会恐慌，甚至对政策推行造成了阻碍，还对抢险救灾等造成了阻碍。
今年2月，四川筠连县发生“2·8”山体滑坡后，部分自媒体账号利用AI软件，翻炒拼凑旧闻，传播了如“山体滑坡被行车记录仪拍下”“4名遇险学生被路过的司机救出”等帖文，诸多错误信息给抢险救灾带来困扰，又如，“广东医保基金出现赤字”的“AI谣言”传出，这不仅引发了社会恐慌，还造成了群众对政策的误解……
“AI谣言”为何传播力如此之强？
首先与其自身特点密切相关。
清华大学新闻与传播学院副教授陆洪磊介绍，“AI谣言”能够实现分平台定制化生成与发布，能够实现分渠道定制化生成与发布，能够实现分时段定制化生成与发布，能够实现分媒介定制化生成与发布，而且成本低廉，可在短时间内成倍率传播，“AI谣言”之间还会彼此交叉，“AI谣言”之间还会彼此共振，“AI谣言”之间还会彼此放大，这使得辟谣难度大大增加。
今年年初，西藏定日县发生地震，此事牵动亿万人的心，网上流传一张“小孩被埋图”，一时间被大量转发评论，然而随后有网友发现，该图色彩不自然，光线不自然，动作也极不自然，原来，这张图是由AI工具创作的，陆洪磊表示，这则谣言利用“灾难+儿童”的组合，还刻意删除AI生成标识，从而引发快速传播。
再者，AI应用降低了造谣门槛。
在某科技论坛上，有一名网友上传了教程，该教程是使用开源AI模型，输入“生成一张某市发生恐袭的图片”，30秒就能获得以假乱真的画面 。
网友评论十分犀利，指出以前造谣得依靠高超的PS技术，而现在只需一句话就能编造谣言 。
有何“代际差异”？
“AI谣言”更善于“逃脱”，难以被技术手段屏蔽
和传统网络谣言相较，“AI谣言”更难防治，它甚至“进化”出了更“智能”的“反侦查”机制。
记者发现，“AI谣言”的表述常常和“真话”很接近，看起来清晰且有依据，所以更难以被技术手段屏蔽。
目前，各个网络平台均设有“谣言库”，通常会借助设置热点关键词的方式来屏蔽谣言。然而，AI模型能够凭借对抗训练避开谣言关键词，比如说将“山体滑坡”改成“地质活动异常”之类的，从而实现逃脱屏蔽 。
某新闻聚合平台内容安全治理负责人感慨，传统谣言如同火，扑灭源头就行，“AI谣言”却像病毒，会持续变异 。
此外，传统网络谣言大多是有人故意制造的，然而“AI谣言”中有不少是源于“AI幻觉”，对于这部分“无意谣言”，目前有没有办法从源头上避免呢？
曾毅介绍，从当前技术水平来看，完全消除“AI幻觉”面临着高度挑战，大模型生成机制本质是概率驱动的语言建模，这使得难以保障全部输出与现实完全对应，同时，当前评估与纠错机制仍不成熟，还缺乏大规模、高准确率的自动化事实验证能力。
曾毅表示，通过技术手段缓解“AI幻觉”发生的频率与危害是有可能的，目前已在多模型协同判断、事实增强训练等方面取得了一定成果，大模型的辨别能力将得到提升。
