《纽约客》长文，让人工智能退出学校，需要付出什么代价？What Will It Take to Get A.I. Out of Schools?

朗读版 http://t.cn/AXxCUXVB

科技界普遍认为，人工智能辅助教育是必要且不可避免的。而越来越多的家长、教育工作者和认知科学家则持相反观点。

作者：杰西卡·温特（Jessica Winter）

我不喜欢人工智能，而且我正在以不喜欢它的方式来养育我的孩子。我多年来一直告诉他们，聊天机器人具有操控性且危险，AI 图像生成工具正在削弱我们对现实的共同把握，而大型语言模型建立在工业规模的知识产权盗用之上。有时，我发现自己和孩子谈论人工智能的方式，就像在谈论住在街区尽头的一个令人不安的邻居：不要与他对视，路过他家时要过马路，必要时就找可信赖的成年人求助。是的，我也曾怀疑这个“怪邻居”在他的椰子鞋（Yeezy Boosts）里长着蹄子，但他大概哪儿也不会去——事实上，他还在不断买下镇上的房产——所以你最好尽量别和他发生接触。

不知怎么的，我并没有准备好这个“怪邻居”开始出现在孩子们的学校里；不知怎么的，我以为我们至少还有时间到高中才会遇到他。今年2月，我的儿子在马萨诸塞州一所公立K-5小学读三年级，他从书包里带回一张纸，上面写着“完成证书”，内容是“展示对人工智能基本概念的理解”。我后来得知，他和同学们获得这项“荣誉”的方式，是玩了一个由非营利组织 Code.org 与“亚马逊未来工程师”（Amazon Future Engineer）合作开发的电脑游戏，名为《Mix & Move with AI》。在游戏中，学生通过拖放操作“设计”一个卡通舞者，并“混编”一首流行歌曲——当然，这首歌可以在亚马逊音乐（Amazon Music）上找到。这个游戏是一个无聊的拖拽拼图，本质上与人工智能几乎毫无关系；而那张证书，不过是一场空洞而具有误导性的品牌营销活动的纪念品。

接着到了3月，我11岁女儿所在的公立中学开始向学生发放新的谷歌Chromebook，而就在那时，我听见“哒哒哒”的蹄声正逼近我们的门口。这些Chromebook是学生在所有课堂以及家庭作业中都会使用的设备，预装了一个适用于所有年龄段的Gemini版本，一套人工智能工具。当我女儿——她现在读六年级——开始写作文时，她会看到一个提示：“帮我写”。如果她开始制作幻灯片演示，提示则是“帮我可视化”。她把这些干扰提示关掉，但它们仍不断出现：“帮我编辑。”“美化这张幻灯片。”图像生成器就在那儿，如果她想把自己的想象力彻底断电的话也可以使用；聊天机器人也在那里，如果她想和“没有人”对话的话。

无数次，无数次，我都警告过她那个“怪邻居”。现在，他会读她的诗，还知道她的密码。他总是透过屏幕在注视着一切。

没有任何一家公司在K-8（幼儿园至八年级）人工智能教育领域形成垄断。在波士顿的公立学校里，六年级学生使用由OpenAI的ChatGPT和Anthropic的Claude驱动的聊天机器人，为今年的州统一标准化考试做准备。在纽约和洛杉矶等学区，幼儿园孩子会与一款名为Amira的游戏化阅读机器人对话，该系统会记录儿童的声音，以提供基于人工智能的反馈。一位住在布鲁克林的公立学校家长告诉我，在一所小学二年级的美术课上，学生们可以使用Adobe Express for Education“生成”人工智能垃圾内容（A.I. slop）。而当洛杉矶的一组四年级学生用同一款Adobe程序设计《长袜子皮皮》（Pippi Longstocking）的书封时，系统却生成了高度性化的图像。

谷歌凭借Chromebook及其内置的“学习管理系统”Google Classroom，在人工智能竞争对手中占据了制度性优势。在新冠疫情期间，当各学区仓促建立远程教学体系时，许多学校发现Chromebook是一种廉价且便捷的选择——在我看来，它不过是一台连接着劣质触控板的低速浏览器。《美国公共利益研究组织》（U.S. Public Interest Research Group）的一份报告指出，截至2020年第四季度，该设备的同比销量增长了287%。而在《纽约时报》去年11月进行的一项全国调查中，大约80%的K-12教师表示其所在学区使用Chromebook，这为Gemini创造了一个庞大的“封闭市场”，也使人工智能在学校中的普及几乎成为必然。

支持在小学和初中推广生成式人工智能的观点，主要基于这样一种信念：尽早接触该技术有助于培养数字媒体素养，为学生打下工程学概念基础，并让他们为一个几乎所有职业都深度嵌入AI的未来做好准备。支持者认为，教师可以利用AI节省批改作业和繁琐行政工作的时间；他们还强调AI工具的自适应学习功能，这些系统能够根据学生进度实时调整，并通过生成大量数据，帮助教师对每个学生提供个性化关注。谷歌教育部门副总裁尚塔努·辛哈（Shantanu Sinha）对我表示：“我们在将AI引入教育机构时的一个核心思考是：如何让教育者处于这一体验的中心？”辛哈补充说，Gemini的目标是“赋能教育者”，以“创造更丰富的学习体验”。“我们并不是教育学专家。”

另一些倡导者则进一步认为，人工智能甚至可能彻底消除对教育学专业性的需求。快速扩张的私立学校连锁机构Alpha，以“导师”（guides）取代教师，招收四岁及以上儿童。该机构声称，其“利用AI技术的力量为每个学生提供一对一个性化学习”，让孩子们“每天只需两小时就能轻松碾压学业”，这是其网站上的宣传语。在近期一场关于儿童与科技的白宫峰会上，梅拉尼娅·特朗普（Melania Trump）与Figure 03一同出席——这是一款由机器人公司Figure AI研发的人形装置，看起来、听起来、移动方式都像是《机器人总动员》（WALL-E）中的伊芙与一名关节僵硬的帝国冲锋队士兵的结合体。第一夫人让听众想象这样一台AI机器人教师，它“始终耐心、始终在线”，随时陪伴学生。她说，这样的学生将学得更快，也会有更多时间参与朋友与运动，从而成长为“更加完整的人”。而Figure 03的“脸”实际上是一块黑色屏幕：一张机器人的巴拉克拉瓦面罩。

来自白宫的信息——以及科技公司与公立学校的常见叙事——是：Figure 03及其AI“军团”已经不可逆转地到来，并且应该无处不在；我们既应感到恐惧，又要感到“被赋能”，而我们投入的时间与资源越多，它们“也许”就越不会伤害我们。

上个月，纽约市教育局开始就其K-12学校使用AI的初步指南征求公众意见，其中包括这样一句警示：“问题不在于AI是否应进入学校，而在于我们是否能够共同构建一个治理AI以服务每一位学生和所有利益相关者的体系。”

这无异于一次精妙的修辞摔投——在讨论尚未开始之前，就宣称其核心前提不可质疑。但正如我们从会“幻觉”的聊天机器人那里学到的那样，说出某件事并不意味着它就成立。大量研究已经对人工智能在教学环境中的适用性提出了质疑。麻省理工学院（MIT）2025年的一项研究警告称，“将大语言模型整合进学习环境，可能会无意中导致认知能力萎缩。”（作者还在论文中附上常见问题解答，指导读者如何讨论研究结论：“请不要使用诸如‘愚蠢’、‘脑残’、‘脑腐’、‘伤害’、‘损害’、‘脑损伤’、‘被动性’、‘削弱’等词语。”）

近期，《教育周刊》（Education Week）发布的一项分析显示，涵盖约1300个美国学区的数据发现，大约五分之一的学生与生成式AI的互动“涉及作弊、自残、欺凌及其他问题行为”。本月，来自麻省理工学院、卡内基梅隆大学、加州大学洛杉矶分校及牛津大学的研究人员的一项研究表明，在涉及分数计算的数学题中使用大语言模型的人，一旦失去AI辅助，“表现显著变差，并更容易放弃……这些发现尤为令人担忧，因为坚持能力是技能习得的基础，也是长期学习最重要的预测因素之一。”（该研究尚未经过同行评审或发表于科学期刊。）

年初，布鲁金斯学会发布了一份“关于AI与儿童教育的事后预案”（premortem），综合分析约400项研究，并采访了数百名学生、家长、教育者与技术专家。结论是，AI工具“削弱了儿童的基础发展能力”。

反对在儿童教育中使用生成式人工智能的主要论点大致有三点。

第一，大语言模型鼓励“认知外包”（cognitive offloading），但孩子在进行大量“认知输入”（cognitive onloading）之前就过早依赖外部工具。如果这些工具会导致成人思维能力退化，那么对于尚未发展出认知“肌肉”的儿童而言，其影响更难低估。

第二，聊天机器人通过模拟情感亲密关系并倾向于一味迎合，扭曲了儿童自我认同与人际关系的形成。北卡罗来纳大学教堂山分校心理学与神经科学教授米奇·普林斯坦（Mitch Prinstein）对我表示，大约在10至11岁时，孩子“开始发展更复杂的人际关系与社会等级结构”。“这在很大程度上可以追溯到催产素与多巴胺受体的激增。催产素让我们渴望与同伴建立联系，而多巴胺则让积极反馈变得愉悦。”当一个讨好型的大语言模型进入对话时，“它实际上是在劫持这种寻求同伴反馈的生物倾向，”普林斯坦说。青春期前的孩子在成长过程中会进行大量情感互相披露，“但如果他们转向聊天机器人，就会失去练习这些终身社交技能的机会。”

第三种批评认为，AI在教育中的使用混淆了目的与手段，它将“最快得到正确答案”“最工整的论文结构”或“最精致的图像”置于优先位置，却忽视了培养一个会思考、会感受的人的复杂而难以量化的过程。南加州大学教育、心理与神经科学教授玛丽·海伦·伊莫迪诺-杨（Mary Helen Immordino-Yang）对我说：“我们可能正在削弱复杂思维，改变社会性的发展，并误判了学习的真正目标。我们是在从根本上切断学习过程。”

即便一些支持AI教育的人士也承认，人工智能对青少年的认知与社会情感发展构成重大风险。Amanda Bickerstaff是“AI for Education”组织的联合创始人兼首席执行官，该机构为教育者与学生提供生成式AI素养培训。她对我说：“13岁以下儿童不应使用聊天机器人。”这些工具需要专业判断与评估能力，而“即使许多成年人也不具备这些能力”。她表示，谷歌将Gemini对所有年龄开放的决定，是她职业生涯中少数让她失眠的事件之一。她当时想：“他们非常清楚这对孩子会有害，但仍然选择这么做。”她接着说，“他们没有在问一些非常基础的问题，比如：如果孩子可以立刻用AI生成一幅画，而不是自己去画，那么这个孩子独立思考和绘画的能力会发生什么变化？”

Anthropic负责教育研究的德鲁·本特（Drew Bent）对我说：“作为一家公司，我们并不适合去规定‘这个年龄可以用AI，那个年龄不能用’。”与谷歌的辛哈一样，本特强调团队更关注教师如何使用AI工具，例如Amira和MagicSchool，这些工具部分由Claude驱动。他说：“你必须先具备一定水平的批判性思维，而这种能力是在童年阶段逐渐发展起来的。在教师把AI工具引入课堂之前，他们必须先具备这样的判断能力——‘什么时候可以信任信息来源？’因为AI模型往往表现得非常权威、非常自信。”

他说到这里时提到一个例子：Anthropic有两名员工曾告诉他，Claude聊天机器人的目标用户应为18岁及以上。但当我随口向Claude本人提及这一说法时，它却给出了一个“小更正”，称实际年龄下限是13岁。

我女儿的一些旧作业现在存储在她的新Chromebook上，其中包括她去年五年级时制作的一份关于印刷术历史的幻灯片演示。我记得在作业截止前，我曾温和地建议她重新调整一些图片的位置，并重新考虑她选择的“黑字配深蓝背景”的设计；她也同样温和地拒绝了我的建议。

前几天，为了这篇文章的需要，我们把那份幻灯片通过Google Slides中的Gemini“美化与编辑”功能重新处理了一遍。Gemini迅速“清理并润饰”了说明文字；在三十秒内，它将图片重新做了对称排列，新增了一些图片，并重新设计了字体——字体更大、更易阅读，带有十五世纪活字印刷的风格，并置于仿旧羊皮纸质感的对比背景之上。

对比这两个版本的幻灯片，对我而言，就像电影《亲爱的妈咪》（Mommie Dearest）里母女泳池比赛的一幕，而Gemini扮演的是琼·克劳馥（Joan Crawford）的角色：我更大，也更快；我永远会赢。

我女儿对此并不在意。“我更喜欢我的版本，因为它是原创的，而且我真的很努力做了它，”她说。“我也更喜欢我的版本，因为它没有用三十秒就完成。”

伊莫迪诺-杨（Immordino-Yang）告诉我，任何学校作业的最终目标，并不在于成品本身，而在于完成它的过程——而人工智能工具的设计目标，恰恰是缩短甚至绕过这一过程。通过其“美化性介入”和持续、隐性的存在，这些工具阻断并改写了儿童通向认知成熟的自然渐进过程，“尤其是对于那些仍在发展用于叙事构建与长程论证的神经心理基础的孩子而言，”伊莫迪诺-杨说，“这是一个脆弱的过程，而它正在被打断。”换句话说，她说，“我们不会对八个月大婴儿的父母说，‘不要鼓励孩子爬行——那是没用的技能。’”

（对“有用”与“无用”的执着，也导致了学校中手写能力的衰退，尽管研究表明，手写对运动技能、语言处理能力以及工作记忆的发展具有重要作用。）

多伦多大学心理学副教授艾米·芬恩（Amy Finn）对我说：“孩子学习的一个魔力在于，他们对将要经历的事情了解更少，对什么是相关信息也缺乏成人式的预设判断。他们没有那种从经验中策略性提取信息的成人过滤器，因此会保留大量成年人会认为无关的意外细节。这使他们能够以成年人无法具备的方式进行创造。”

儿童大脑这种偏向“愉快的非连续性”和不可预测游走的特征，与大语言模型所追求的速度、流畅性与总结能力并不匹配——后者倾向于无摩擦的理性结果。（这种“结果优先于过程”的执念，也正是被广泛厌恶的教学方式“应试教学”的特征之一，该模式在21世纪初开始在美国课堂中普及，其背景是《不让一个孩子掉队法案》（No Child Left Behind Act）将联邦拨款与标准化考试成绩挂钩。）

关于“什么对孩子而言是相关的、什么是无关的”这一问题，也在我与谷歌教育部门的辛哈（Sinha）的对话中出现。我请他举一些适用于小学教师的AI最佳使用案例。

“你可以用Gemini生成一个儿童故事，”他说，“但这不只是一个随意的儿童故事，你可以把你课堂中的背景信息，甚至图片都融入进去，然后和Gemini一起协作，说：‘这是一本我们可以一起阅读的故事书，它更贴近现实，更个性化。’”

他又举了另一个例子。“也许一个孩子画了一幅自己很自豪的画，老师可以选取其中一幅，把它导入Google Vids——这是谷歌的AI视频生成与编辑应用——然后把它动画化，变成一个很有趣的视频，让那幅画‘动起来’，以一种完全不同的方式吸引学生。”

他说，通过使用AI工具，学生“能够创造出过去不可能完成的、更令人印象深刻的作品”。

但问题在于：孩子的故事或画作，为什么、又在何种意义上需要“令人印象深刻”？是对谁而言“令人印象深刻”？而且，它是否应该让人看出是由AI参与完成的？

“这个问题我可能还是得回到教育者那里，”辛哈说，“比如说，你到底希望得到什么？”

20世纪20年代，美国心理学家西德尼·普雷西（Sidney Pressey）发明了一种“教学机器”，体积约与打字机相当，能够进行多项选择测试并实时评分。正如奥德丽·沃特斯（Audrey Watters）在2021年的著作《教学机器》（Teaching Machines）中所写，早期教育技术的创新者——包括更为知名的B.F.斯金纳（B. F. Skinner）——在描述这些设备时所使用的语言，与当今推动“个性化学习”的论述几乎如出一辙：这些技术都被设想为能够让教师专注于其在课堂中的“真正职能”，即“激励性与启发性活动”，包括对每个学生给予个别关注。（斯金纳曾宣称，批改作业这一行为“有损任何理性之人的尊严”。）

在一个多世纪的技术变迁中，教育科技的意识形态始终如一：最新的技术创新——无论是教学机器、可汗学院（Khan Academy）的视频教程，还是聊天机器人——都被反复描述为即将开启“个性化学习”新时代的前夜，这一时代将同时解放负担过重的教师与参与度不足的学生。

这种长期存在的信念，也体现在我与Anthropic教育研究团队成员本特（Bent）的对话中。他谈到AI工具能够为教师“提供更多与学生一对一相处的时间”。他进一步解释说：“当一位教师面对30名学生时，要追踪每个学生的学习进度、为所有学生设计定制化活动会非常困难。”但借助Claude，“我们看到，一位拥有30到35名学生的教师，可以做到过去只有在面对5名学生时才能做到的事情，只不过做得更好。”

然而，这种情景的可行性仍有待验证。但一个名为“国家AI教学学院”（National Academy for AI Instruction）的新教师培训项目，或许正在为教师提供机会，对AI行业对其职业所作出的诸多承诺进行实际检验。

该学院总部位于曼哈顿美国教师联合会（United Federation of Teachers）办公室，由美国教师联合会（A.F.T.）与其分支机构联合发起，并由微软、OpenAI与Anthropic提供总额2300万美元的合作资助。该学院提供线下与线上课程，其目标是帮助教育者“不是接受不可避免的未来，而是学会应对它”，A.F.T.主席兰迪·温加滕（Randi Weingarten）对我说。

初看之下，“国家AI教学学院”似乎像是由科技巨头联盟资助的、以网络研讨会形式呈现的“制造同意”。然而，与温加滕交谈后，很难将她视为AI的拥护者，或是课堂中无处不在的Chromebook的支持者。“人们越依赖AI，就越不再思考，”她说，“我们需要更多纸笔、更多动手学习、更少屏幕。”

如果工会成员不同意所在学区的AI政策，或者不希望Gemini进入学生的学习空间呢？

“我们会为他们辩护，”温加滕说。“一切变化发生得太快了，而我的目标之一，就是给教师‘说不’的权利。”

她表示，教师工会之所以拒绝与谷歌合作，是因为该公司“无法就保护学生与教职员工的安全与隐私作出我们所要求的承诺”。（辛哈对此表示反驳，称Gemini符合联邦法规，学生数据不会被用于商业盈利，且与学生的对话不会被人工审查，也不会用于训练AI模型。此外，谷歌发言人通过电子邮件表示：“根据我们内部团队的了解，在AI学院启动前，我们并未收到AFT提出隐私方面的担忧。”）

其他由教师和家长发起的组织，也在试图为限制AI在学校中的使用建立某种“许可结构”。

布鲁克林一位公立学校学生的家长克雷格·加勒特（Craig Garrett）告诉我，他在6月建立了一个关注此问题的家长WhatsApp群组，后来发展为“第14学区人类学习家庭联盟”（District 14 Families for Human Learning）。他发现自己当时上幼儿园的孩子在课堂上全年都在与Amira机器人进行阅读互动。（活动人士质疑，在课堂中使用Amira并记录学生语音，是否违反纽约州一项禁止“未经授权泄露个人可识别信息”的教育法律。）

加勒特同时也是“AI暂停联盟”（Coalition for an AI Moratorium）的成员之一。该联盟由教育者、家长和学生组成，正在向纽约市长佐兰·马姆达尼（Zohran Mamdani）及教育局长卡马尔·塞缪尔斯（Kamar Samuels）请愿，要求在K-12课堂中暂停AI使用两年。

联盟成员之一、曼哈顿公立学校家长纳维德·哈桑（Naveed Hasan）同时也是一名计算机科学家，在人工智能领域工作已超过20年。他对我说：“我在哲学上反对私人公司试图把‘智能’变成一种公共基础设施。”

“他们告诉我们不用担心智能问题——你只需要订阅它，就可以去做别的事情，”他说，“我们需要影响市长，也需要影响所有为市长工作的人员，让他下令暂停这一切。”

联盟成员认为，纽约市初步AI指南几乎没有涉及隐私问题，也未充分评估AI对学生大脑发育与心理健康的潜在负面影响，且在制定过程中缺乏对教师和家长的充分咨询。

负责制定该指南的纽约市教育局官员米娅特蕾莎·佩特（Miatheresa Pate），目前正在接受一项由谷歌与GSV Ventures联合提供的奖学金项目资助。GSV是一家教育科技风险投资公司，其投资组合包括Amira与MagicSchool等产品。（该项目的其他参与者包括伯克利、达拉斯、洛杉矶、纽瓦克等地的高级教育官员，以及科罗拉多州和马里兰州的州级教育官员。）

加勒特讽刺道：“如果你让烟草公司帮你制定校园禁烟政策，那你最后只会得到一份‘如何在学校安全吸烟’的指南。”（教育局发言人在邮件中表示，已有超过一千名“利益相关者”参与指南制定，包括家庭与教育者，并强调Amira和MagicSchool虽在部分学校使用，但市教育局并未与其签署集中合同，使用由各校自行决定。）

另一类类似组织“Schools Beyond Screens”由洛杉矶联合学区（L.A.U.S.D.）家长于去年成立。该学区现任督学阿尔贝托·卡瓦略（Alberto Carvalho）目前正处于行政休假状态，此前其住宅与办公室于2月遭联邦调查局突袭搜查，原因据称与他与一家破产教育科技公司的关系有关，该公司正在开发儿童AI聊天机器人。（卡瓦略否认存在不当行为，同时也是Code.org董事会成员，该机构正是Mix & Move with AI的开发方之一。）

该组织的目标之一，是加强对城市学区与科技公司之间高额合同的审查。“用于技术平台和替代性Chromebook的支出，本可以用于教师薪酬，”洛杉矶一所公立学校一年级学生的家长凯特·布罗迪（Kate Brody）对我说。

该组织还希望学区在数字平台使用上建立更明确的同意机制，并通过一项《学生技术权利法案》，其中包括“阅读完整书籍”的权利、“定期用纸张阅读与写作”的权利，以及“低刺激学习环境”的权利。

“现在仍然感觉，没有一个地方可以说：‘作为一个家庭，我们不认同这个，我们认为这是不对的。’”布罗迪说，“我对孩子使用AI的主要担忧是认知层面的，但对其他家长来说，这可能是道德问题、伦理问题，或环境问题。这些工具推出得太快，没有任何同意机制，现在我们却被迫尝试拆解它们。”

布罗迪等人试图拆解的，是一个已经形成的庞大企业与技术结构。然而，这一体系并非永恒、正统或不可逆的。Gemini是新的，但孩子们整天伏案面对屏幕的景象，本身也是一种相对近期、甚至可能是暂时性的现象。课堂中的Chromebook并非必然存在；我们完全可以把它视为疫情时期遗留下的一种顽固但并非不可清除的“杂草”，就像餐厅里的二维码菜单一样。

《纽约时报》最近刊登的一篇报道指出，美国许多学区正在出现所谓“Chromebook后悔症”。没有任何法律规定，一家市值约4万亿美元的跨国公司注定要掌控我们的公立教育系统，或为这些系统提供奖学金，或从学生身上获取商业价值。

事实上，《学生技术权利法案》的另一条内容就是：享有“免受不当企业影响的学习环境”的权利。

布罗迪告诉我，教育领域的反AI倡议之所以困难，是因为屏幕几乎已经等同于学校，而AI又越来越等同于屏幕。“你必须比处理其他问题更精细、更有针对性，”她说，“除非你真的要把电脑扔进海里。”但为什么不呢？我又想起辛哈问我的那句话：“你到底希望得到什么？”如果答案是什么都不想要呢？#海外新鲜事#