青平:警惕AI技术成为造谣者的“帮凶”

中国青年报客户端  |  2024-02-09作者:特约评论员李晶晶 王馨怡

2月2日,据公安部网安局消息,王某发现某APP上有发布作品赚取佣金的活动,便使用某手机软件的AI题词功能虚构了7篇造谣文章并在该APP发布,随后播放量迅速达到近3000次,目前公安机关已对王某处以罚款并责令删除相关谣言。近年来,网络谣言加速“狂飙”,将造谣当成引流或牟利手段的现象层出不穷,我们须警惕AI技术成为造谣者的“帮凶”。

随着科技的不断发展,AI即人工智能技术的应用越来越广,从智能家居到自动驾驶、从医疗领域到金融行业……AI技术的快速发展正在深刻改变着我们的生活。然而,一些不法分子也在利用其进行违法犯罪活动,给网络安全带来了严峻挑战。相较于以往需要费尽心思地移花接木,如今的网络谣言只需输入关键词即可由AI快速生成,成本低、效率高,而且大大颠覆了以往“有图有真相”的常规认知,令对网络谣言的治理更加困难重重。

2023年3月,教皇方济各穿着巴黎世界羽绒服走秀的假照片在网上引起轩然大波,发出不久后便有了2800多万的点击量;2023年3月,一位女网友晒出自己在地铁上的照片,却被别有用心的网友下载并用AI技术“一键脱衣”,且将“除衣”后的照片广泛传播;2023年5月,一张由AI生成的美国五角大楼爆炸的图片在全球社交平台上病毒式传播,甚至导致美国股市下跌……

小到恶搞名人、自娱自乐,大到捏造国际事件、直接“改写”历史,“单纯”的AI在恶人手中迅速“黑化”,沦为了在网络中哗众取宠的引流工具。不仅大大增加了辟谣难度、给被造谣者带来困扰,更动摇了新闻真实性的根基,容易引发舆情危机,影响政府公信力。一旦这些AI假新闻被大量传播浏览,还会扰乱网络传播秩序。

科学技术是把“双刃剑”,AI技术也不例外。我们不必“因噎废食”,但也要在积极拥抱新技术、新事物的同时,注意规避其中潜在的问题和风险。在AI大行其道的今天,创作者在网络上必须严格遵守相关法律法规,不得发布使用AI技术随意捏造的作品或信息,否则等待他们的将是法律的制裁。

此外,要进一步加强对AI服务提供者的监管。在流量为王的网络空间,对于那些明显违法或侵犯他人权益的内容,AI服务提供者要及时采取停止生成、停止传输、消除等处置措施。为此,我国2023年1月颁布实施了《互联网信息服务深度合成管理规定》,2023年5月发布了《人工智能安全标准化白皮书(2023版)》,2023年7月出台了《生成式人工智能服务管理暂行办法》……相信随着与AI相关法律法规的逐步完善,各方的权责会更加明晰。

在对利用AI造谣者积极亮剑、加强对AI服务提供者监管的同时,公众个人在网络空间也需提高警惕,增强对谣言的防范意识和辨别能力,同时可通过举报电话、举报中心官网、“网络举报”客户端等多种途径对网络谣言进行举报,共同打造风清气正的网络空间,绝不能让AI成为造谣者的“帮凶”。

责任编辑:王俊秀 郭艳丽