警惕“AI依赖”

人机共生时代如何保持独立思考

近日,美国斯坦福大学举办全球首个以AI为核心作者与论文评审的线上开放会议,引发人们对人机共生时代人类思维走向的思考。当下,AI虽为工作生活带来诸多便利,却也潜藏着让我们丧失独立思考能力的危机。

AI“思维外包”藏隐忧

AI大模型、智能体等应用在科研等多领域广泛赋能,提升效率的同时,也暗藏隐忧。美国麻省理工学院研究发现,长期使用AI会使大脑神经连接数降低,影响语言和行为层面;微软和卡内基-梅隆大学研究也表明,生成式AI会削弱批判性思维能力,导致过度依赖,降低独立解决问题的能力。

浙江大学吴苏青团队研究显示,AI应用带来认知需求“空心化”,人类工作沦为“被动填空”,可能丧失工作动力。因此,开发者设计生成式AI工具时,应有支持用户提升批判性思维的意识,如高风险任务强制弹出验证提醒。

人们为何“轻信”AI

人们愈发依赖AI,原因在于其专业化能力和交互便捷性的飞跃。其生成内容的专业化程度,让人视其为专家;对话式交互方式,又似“好友”,易让人形成心理依赖和信任。同时,AI大模型“开箱即用”的便捷性降低了使用门槛,而使用者缺乏基本的AI素养教育,对技术缺陷认知不足,更易“轻信”。

此外,AI产生的“幻觉”出现在论文评审或研究中令人担忧,还可能加剧种族、性别等不平等问题。科幻作家陈楸帆指出,人们使用AI时把判断力也外包了,会导致主观能动性下降,深度阅读思考和表达能力退化。

建立思维的“AI缓冲带”

未来,AI将更深度嵌入工作生活。陈楸帆认为,人们应在不同场景分辨AI适用与否,掌握心智、认知主动权,建立“AI缓冲带”,即先自己给出答案,再寻求AI深化扩充。还可进行“对抗性生成”,当AI答案契合自己观点时,用批判性思维质疑,跳出思维惯性,给出AI没想到的答案。

“我们甚至还可进行‘对抗性生成’,即当AI给出跟自己观点十分契合的答案时,应有批判性思维去质疑,到底是我被AI所影响,还是AI在我的不断训练下,变得越来越趋同?我们是否能跳出思维惯性做出不一样的选择,给出AI没想到的答案。”陈楸帆说。

新华社