打击AI造谣刻不容缓

来源：广州日报
时间：2023-08-03 12:12:28

【资料图】

原标题：打击AI造谣刻不容缓

近来暴雨、水灾给国内一些地区造成严重影响，持续受到人们的关注，同时竟也被一些人借机拿来博取关注，吸引流量，严重扰乱社会公共秩序。（8月1日北京日报客户端）

现在制造谣言有多简单？可能只需要几个关键词。近期四川公安机关在打击一批传谣组织时发现，有造谣者仅需利用手机浏览器自带的“AI文本生成器”，输入暴雨、泥石流等相关字眼后，就能自动编写一段像模像样的水灾新闻稿。再配上移花接木的视频和图片，确实能起到以假乱真的效果，让人一时真假难辨。无独有偶，此前郑州也有一起打架斗殴治安事件案件，在经过精心地添油加醋后，被描绘成一起恶性伤人的刑事案件。那些发帖作者如同亲临现场一般，用写小说式的笔法，故意在细节上渲染暴力、在情绪上引导对立，再加上煞有其事的图片，最后成功带起节奏。而警方抓获造谣者后才发现，这些高明的造谣手段，竟出自AI之手。AI造谣，不仅让人瞠目结舌，更细思极恐。

如今，AI造谣正加速“狂飙”。无论是炮制洪灾假新闻，还是篡改夸大案情，这些被AI加持后的谣言，都呈现“智能化、速成式”的特征。以往还需要挖空心思地移花接木，让谎言虚实结合、“顺理成章”，如今AI只需一键生成。而“有图有真相”的认知，也在AI画图面前“不值一提”。成本低、效率高，辟谣难度大，这就不难理解为何有人、甚至有团伙将造谣当成引流牟利手段。可见，打击利用AI等新技术新应用编造谣言，已刻不容缓。

对付AI谣言之道，需“还治其人之身”。虽然目前制造“打假AI”并非易事，但利用AI技术“以毒攻毒”无疑是未来思路，眼下已有一些科技公司、平台已开始行动，如国外微软公司推出一个可以对画面中进行逐帧实时分析的工具，以此来帮助用户鉴别内容的真实性。国内抖音等平台则提供统一的AI生成内容标识，帮助创作者打标，方便用户区分，并畅通用户对不实信息的举报渠道。

当然，对付AI谣言，除了需要个人提高提升鉴别能力之外，更需要相关部门、平台主动作为。前者织好法规“法网”，提高造谣成本，后者加强预防工作与审核力度，共筑“防火墙”“预警器”，尽力让谣言出现即消失，止于始作俑者。（陈文杰）

关键词：