楼主:
pl132 (pl132)
2025-02-12 12:55:48人类智慧同步丧失中,研究:GenAI 工具使用愈多认知能力愈差
https://technews.tw/2025/02/12/genai-make-human-lost-their-cognition/
科技解放人类,但也让人类所剩无几的大脑认知能力丧失。微软和卡内基美隆大学研究人
员发表的一篇新论文发现,随着人类在工作中越来越依赖生成式人工智能,他们的批判性
思维越来越少,可能导致在 AI 时代下,本应保留的认知能力下降。
研究人员招募 319 名知识型工作者参与研究,请他们自述 936 个在工作中使用 GenAI
的第一手案例,对象有老师、业务员、护士等等,并要求他们完成一份调查,内容包括他
们使用什么 GenAI 工具,并衡量自己对 GenAI 工具完成工作任务的能力与产出等信心程
度。结果发现,只有当使用者对 AI 的产出缺乏信心时,才会运用更多的批判性思维,对
自己评估和改进 AI 产出品质,以及减轻 AI 后果的能力更有信心。反之若太相信 GenAI
,就不会启动自己的批判性思考能力,大脑就闲著没事做。
对认知工作袖手旁观
数据显示,现在知识工作者使用 GenAI,开始从任务执行转向监督,导致认知能力发生转
变。研究人员表示,“虽然 AI 可以提高效率,但也可能减少关键参与度,与没有使用
GenAI 工具的使用者相比,使用 GenAI 工具的使用者在执行相同任务时,产生的结果多
样性较低,反映对 AI 产出缺乏个人化、情境化、批判性和反思性的判断,因此可以被解
释为批判性思考的退化。”
研究人员写道,“自动化的一个主要讽刺之处在于,透过机械化日常任务,将异常处理留
给人类用户,但也剥夺用户练习判断力和加强认知能力的日常机会,导致他们在出现异常
情况时退缩,且措手不及。”
人类长期以来一直在将认知任务卸载给新兴技术,Gen AI 工具是一系列技术中的最新一
项,无论哪一个阶段,总是有人担心这些技术会摧毁人类的智慧。包括苏格拉底反对的写
作、特里特米乌斯反对的印刷、数学教师反对的电脑,以及网络。研究指出,这种担忧并
非毫无根据。如果使用不当,技术可能会导致本应保留的认知能力的退化。
AI 削弱 Z 世代人际技能
这份研究结果出自微软这个生成式 AI 推动者可能令人意外,但研究结果本身却值得深思
。为了避免这种情况,研究人员建议在开发 AI 工具时需考虑到这个问题,并在设计工具
时,激励用户进行批判性思考,譬如 GenAI 工具可以融入促进用户学习的功能,例如解
释 AI 推理的方式、建议用户改进的领域,或提供指导性批评。
副作用不只一个。去年 Google 调查发现,职场上最年轻的 Z 世代有九成都已经使用至
少两种 AI 工具。但令人担忧的是,产业研究机构 Workplace Intelligence 和人才开发
公司 INTOO 进行的调查发现,约有一半的 Z 世代受访者表示,他们遇到问题宁可问 AI
,也不愿意问主管,原因是 AI 可以立即回复,且不会评判他们。
专家表示,协作和创新依赖人际互动的复杂性,Z 世代应对模糊性问题,以及培养在职场
必不可少的人际交往技能,确实存在被削弱的风险。