当前位置：首页 > 实时讯息 >

当AI沦为“谣言机器”

0次浏览发布时间：2025-04-23 07:49:00

最近，上海警方破获一起“华山医院前院长客死他乡”的AI造谣案：3人团队，手握500多个账号，仅仅一个多月就发布30多万条AI生成的不实帖文。

一则“医疗泰斗客死他乡”的悲情故事，一个凭空捏造的“张明远”院长，一场AI批量生产的谣言风暴……这起案件的侦破，向大众揭开了“流量黑产”的罪恶链条——犯罪嫌疑人只要抓取热门内容，设置“第一句话要抓人眼球”“叠加医疗、养老等关键词”等算法指令，就能让AI自动生成“催泪弹”式谣言，再通过500个账号矩阵式分发。日均1万条谣言的“产能”，甚至已经称得上是“工业化造谣”。

每1万次阅读量5元的收益，让谣言成为可量化的“产品”。讽刺的是，在传播谣言前，犯罪嫌疑人甚至“不知道上海有华山医院”，也不在乎真假，流量经济的逐利逻辑，已彻底碾压了信息传播的公共属性。整个过程无需事实核查，更没有道德考量。

“张明远”的虚假叙事，并非孤例。从明星绯闻到医患矛盾，从国际局势到民生焦虑，AI谣言正大肆而又精准地狙击着人们的敏感神经。网安总队警官用一句话精准概括：这是“AI的幻觉”，是“毒流量”，更是“流量经济”劣化的一种表现形式。

更可怕的是，这种AI的“幻觉”，很可能演变为数字时代的“三人成虎”。一个自媒体号说一件事，你可能不会相信。但是，如果有两个、三个……成百上千个呢？在AI技术越来越的今天，当真假掺半的信息广泛流传，普通人如何予以分辨？当批量化的谣言进一步污染互联网环境、挤占公共话语空间，错误信息是否会呈几何级增长，真实议题是否会在“信息洪流”中失焦？

“毒流量”，是对网络环境治理能力的一种挑战。对此，上海警方重拳出击，全力开展打击整治网络谣言专项行动，也和一些头部平台建立了畅通的工作联动机制。

严打严惩之外，治理AI谣言仍需多方协同——立法方面要加以突破，要求相关企业对AI生成内容作出显著标识，引导技术算法向善；平台方面，应从“被动合规”转向“主动治理”，优化推荐、奖励机制，不能任由“毒流量”“标题党”泛滥；社会公众也要进一步认识到，在当下互联网语境中，“有图有视频”不再等同于真相。

数字时代，“真实”变得尤为可贵，更需要我们共同守护。

原标题：《当AI沦为“谣言机器” | 锋面评论》

栏目编辑：顾莹颖题图来源：上观题图

来源：作者：新民晚报杨洁