当AI会说谎,年轻人如何避免被“带偏”

中国青年报  |  2025-03-28

3月13日,北京邮电大学学生在毛泽东思想和中国特色社会主义理论体系概论的课堂上,展示利用AI进行文献梳理和数据收集的成果。受访者供图

当AI能快速生成论文、解读数据、阅读文献,越来越多大学生开始使用AI进行辅助学习,一些重要议题再次浮出水面——AI的普遍应用,是否会削弱年轻人的原创思考能力?是否会影响其价值判断力和独立人格的塑造?近日,本报邀请了3位专家学者,一起聊聊技术浪潮中如何守护年轻人的思辨能力。

---------------

主持人:

中青报·中青网见习记者 许子威

嘉宾:

李艳燕  北京师范大学教育学部教授、教育技术学

北京市重点实验室副主任

卢家银  中国人民大学新闻学院教授

宋林泽  北京邮电大学马克思主义学院副教授

主持人:近日,AI谣言频出,引发舆论热议。AI谣言会带来哪些危害?年轻人应如何避免被误导?

卢家银:最近网上流传的AI“造谣”乱象,本质上都是技术被滥用的表现。例如,有人故意训练AI生成虚假信息,再利用算法推荐机制疯狂传播。这类谣言具有3个特征:标题党式的情绪刺激、数据看似权威实则虚构、内容碎片化难以溯源。

这类信息对公众和青年一代的影响是深层次的:第一,虚假信息会扰乱网络舆论场,污染整个信息生态;第二,真假难辨的信息会削弱人们的认知力和判断力,导致对核心价值观的解构;第三,AI谣言对青年认知体系可能会产生较大的破坏。具体来看,在知识建构上,AI生成的虚假学术成果,可能扭曲青年对科学方法论的理解,削弱其“假设-验证”的科研逻辑训练。在思维发展上,AI谣言通过算法推荐的“信息茧房”形成逻辑闭环,不利于批判性思维的培养。这可能会导致青年一代陷入AI带来的学习、写作和生活的“舒适区”,习惯于接受机器生产和推送的片面信息。

宋林泽:青少年正处于价值观形成的关键期,长期接触AI谣言可能导致其难以区分事实与虚构,甚至盲目跟风传播,削弱独立思考能力。部分年轻人可能因缺乏信息甄别能力,成为谣言的“二传手”。为此,思政课教师需要帮助学生树立正确的网络观与社会责任观,助力构建可信、安全的数字社会。对此,一是要注重提升学生的批判性思维与信息素养,使他们学会通过权威渠道核实信息,避免依赖单一来源。二是要引导学生掌握技术识别工具,使用AI内容检测功能辅助判断。三是要强化学生的法律意识与社会责任,使他们审慎对待信息,在未进行核实前不随意转发信息,避免成为谣言传播的“助推器”。

主持人:年轻人如何正确看待AI生成、输出的内容?同时,学校教育需做出哪些改变,以帮助学生树立正确的价值观?

卢家银:防止价值观被AI带偏,关键要建立认知锚点。青年需要在自己的知识体系里打下几个“认知桩”:一是主流媒体和网络平台要建设优质信息内容池,利用算法加大对优质内容的推送,让青年接收到更多高质量的信息;二是在技术上需要研发“价值观对齐”的深度学习框架,将社会主义核心价值观植入人工智能系统之中,以影响大模型的输出结果;三是提升学生的媒介素养和信息辨识能力,如果学生不掌握基础理论,直接让AI整理报道素材,就很容易被隐蔽的价值倾向误导。

在这个过程中,更需要大学教师培养学生的价值主体性。例如,让不同AI就同一议题生成内容,对比发现有的倾向于个人主义叙事,有的强调集体价值。这个过程会让学生意识到,AI输出本质上可能体现了开发者和部署者的价值观。最近我们在做“AI价值观审计”的研究项目,目的就是让学生给各类AI应用打伦理分,这种积极拥抱、主动出击的方式,可能比被动防御更能筑牢思想防线。

李艳燕:面对AI技术带来的认知挑战,年轻人要形成独立思考的能力,建立科学的信息甄别体系。第一,要与AI共建平等的、具有思辨性的对话互动。AI交互对话框,其实就是一个突破传统知识权威的思维训练场,AI的“零社会身份”特质消解了人际互动中的压力,为年轻人创造了可自由质疑、反复辩驳的平等对话环境。年轻人可以把AI看作一位平等对话的智者,通过引导与AI的对话互动,促进个体思维链的形成,并校准认知偏差。这种去权威化的思辨训练,可以帮助年轻人在与AI的对话中保持独立判断,实现认知跃迁。

第二,形成质疑前置的逆向运用思维。在使用AI工具时,可以先要求AI质疑其提出问题中的逻辑盲点、数据局限及价值偏见等,进而要求AI基于识别出的问题形成解决方案。这种逆向运用思维机制,让AI突破了预设算法的局限,从答案输出者变为内容校验者,同时也促使年轻人完成了双重思考,既审视问题的合理性,又评估AI方案的完备性,最终在与AI的动态博弈中逼近问题本质。

第三,通过横向对比与纵向追问进行论证溯源。面对AI输出内容的可靠性争议,一方面可以横向对比多源信息进行交叉验证,使用不同的AI工具生成回答后对比核心论点、数据来源及逻辑链条的差异,或者借助搜索引擎、结合个人知识储备进行验证,识别AI生成内容存在的失真问题。另一方面可以从AI工具给出的结果中,提取论据与推理两个部分进行纵向追问,对论据追问数据来源,对推理追问推导步骤,逐步发现AI论证路径中的断点。

宋林泽:当AI用几分钟就能生成一篇结构完美的《资本论》读后感,技术的便利性正在重塑年轻人的认知模式。想要打破这种“思维懒惰”和“正确性答案崇拜”,需要引导和加强批判性思维训练。以我讲授的毛泽东思想和中国特色社会主义理论体系概论课程为例,在讲解“实事求是”思想时,我们设计了“概念漂流瓶”游戏,即学生需用AI生成该概念的当代诠释后,通过文献考证将其回溯至毛泽东《改造我们的学习》、邓小平“三个有利于”标准,直至《马克思恩格斯选集》的“物质生活条件”理论。

AI输出的内容只是一个认知起点,而不是终点。大学生需要主动去验证它的内容,比如查阅权威来源、对比不同观点,甚至直接与领域专家交流。这种验证过程,不仅能帮助我们更全面地理解问题,还能让我们在面对复杂信息时更有判断力。

主持人:一些大学生开始使用AI完成作业,有些教师鼓励,有人则存在担忧。技术会不会带来新的不公正,您如何看待?

卢家银:鼓励与担忧各有其道理,具体需要从作业的目的、定位,以及大学课程的考核方式等方面系统分析。对于社会科学而言,传统作业模式主要考查学生对于知识点的掌握和理解应用。因此,通常情况下,学生只要通过较为规范的书面语言,将自己的理解有逻辑、清晰、流畅地表达出来即可。在互联网普及前,受条件所限,即使学生有意查找资料,繁琐的检索过程也令多数人难以完成。随着网络技术出现,大幅提升了学术检索效率,教师对课程作业的信息搜集标准自然提高,但大家并未因互联网辅助完成作业而有异议,反而从这个过程中发现了优秀学生所具有的学术潜质,比如一点就通、逻辑性强、快速建构知识图谱等能力。

当然,也会存在一些学生通过AI工具来省力和取巧,这不可避免。但教师应思考这种“偷懒”情况背后更深层的逻辑。我认为,任何工具都应该首先公平可触及、可使用,接下来才是会不会使用、如何更好使用的问题。

李艳燕:在学习新技能或新知识的初期,学生往往会因内容复杂、进展缓慢而感到困难重重。AI能够通过个性化学习路径规划和定制化学习体验,有效降低学习门槛,帮助学生以更轻松、高效的方式掌握知识。然而,如果学生习惯于依赖“认知外包”,仅仅满足于简单复制AI生成的内容,缺乏必要的思考与重构过程,确实会导致独立思考能力的弱化。因此,教师在教学过程中科学引导学生、合理设计AI工具的使用方式,就显得尤为重要。

AI技术的普及,正推动传统教学方式发生颠覆性变革。首先,教师角色发生根本性转变。教师需要转变为学习的引导者和能力的培养者,更多关注如何通过个性化教学来激发学生的创造力,培养他们独立思考和分析问题的能力,同时重视学生的品格教育和价值观引导。其次,教学内容需要与时俱进。在智能化时代,教师课程设计应当更加注重跨学科整合,通过创设真实问题情境,引导学生在解决问题的过程中主动建构知识体系,培养其核心素养与高阶思维能力。最后,教学评价更加多元化与过程化。AI的引入使教学评价不再局限于传统的标准化考试,而是更加注重对学习过程的动态追踪与多维评估。教师可以借助AI工具高效开展形成性评价,实时监控学生的学习进度和表现,及时发现并解决他们在学习过程中遇到的问题。

主持人:“有了AI,为何还要读书?”在AI能够“高效读完一本书”的时代,不少学生都发出了这样的疑问。在您看来,如今读书的必要性是什么?

李艳燕:这个问题从表面上看体现出AI的效率优势,但实际上暴露出的却是对于学习本质的认知偏差。根据心理学家皮亚杰的认知发展理论,知识的获取应是主体在与具体情境的互动中主动建构的过程,而当前AI却导致了认知外包倾向,使学生陷入被动接受信息的困境。

我认为,读书的必要性主要包括3点。首先,读书能够构建个人知识体系。学生通过读书,可以不断将文本信息与既有认知进行碰撞,形成具有个人烙印的知识体系。其次,读书是思维训练的过程。AI的即时性知识输出,省略了人类阅读时的必经环节——概念解析、逻辑推演与反思验证。学生在阅读的过程中,必须自主完成思维训练任务,比如理解故事链条、权衡对立观点等,从而促使大脑形成独立的思考体系,确保人类始终保有批判性思维。最后,读书能够构建人类特有的精神价值体系。AI虽然可以模拟对话,但无法复现文学体验引发的情感与价值共鸣。文字创造的共情场域让学生能够经历道德推演与价值抉择。这种通过文字展开的情感训练,可以增强学生对多元文化的包容力,也能培养学生在复杂情境中平衡理性判断与感性共鸣的社交智慧。

宋林泽:深度阅读本质上是思维训练的“重体力劳动”。比如,在《毛泽东选集》研读课上,学生通过分析《实践论》的写作背景,能够理解“实践-认识-再实践-再认识”的认识论循环,这种认知框架的建构过程,正是思辨思维的锻造过程。而AI生成的《实践论》核心观点提炼,往往简化为线性的理论模型,丢失了毛泽东在革命实践中不断探索和总结的动态过程。因此,在AI能“读”万卷书的时代,人类读书的意义早已超越知识获取,它是我们与伟大思想对话的桥梁,也是抵御技术异化的精神盾牌。

(中青报·中青网见习记者 许子威 记者 任冠青整理)

责任编辑:任冠青,李沛然   编辑:袁瑞