教育公平
让 AI 不扩大差距的五条设计原则
本文梳理五条公平性原则,让出于善意引入的 AI 真正用于缩小差距。
新技术往往先触及本就走在前面的人。AI 学习工具也一样,家庭环境好、对数字工具熟悉的学生越是能用得好、跑得更快。这就是所谓的“马太效应”。即便出于良好意图引入的 AI,若疏于设计,非但不能缩小差距,反而可能拉大差距。比起引入本身,如何设计才决定了公平性。所幸只要在设计阶段守住几条原则,同样的工具也能把方向调向缩小差距。
不扩大差距的五条原则
让技术变得平等的不是技术,而是设计意图。请把以下几条定为原则。
- 以后进学生为基准设计:效果不以平均值衡量,而以最落后的学生的变化来衡量。
- 把默认值设为包容:把字幕、语音朗读(TTS)、简易模式设为默认提供而非另行申请,以消除标签化。
- 低配兼容:让它在旧设备和慢网络上也能运行。以最新设备为前提,本身就是一种排斥。
- 数据偏差检查:训练数据若偏向特定群体,就会给少数学生带来不利结果。
- 由人作最终判断:升学就业、分班这类重大决定,不得仅凭 AI 分数作出。
对“平均成绩提高了”的报告要审慎看待。有可能只是尖子生提高了,从而拉高了平均。必须同时查看分布。
用同样的工具缩小差距的运营
即便是同样的工具,运营方式不同结果也会分道扬镳。以一款以自主学习为前提的 AI 导师为例。在家里已经先养成学习习惯、掌握数字工具用法的学生,一接触这个工具就迅速往前跑。相反,在家没能打下这种基础的学生,面对同样的工具连该问什么都不知道,只能踌躇。所以,想要缩小差距的工具,必须不能只交给自主性,而要以在校内向所有人保证同等使用机会与指导的方式来运营。最初几天由老师一起示范怎么提问、怎么核对答案,等学生熟悉后再逐步放手,这个顺序很有效。另一个变量是时间。放学后自由时间多的学生会把工具更多地用于额外学习,而背着打工或照护负担的学生则没有这份余裕。因此最好把核心活动安排在课堂时间之内,别让家庭的余裕决定学业成就。
引入后的检查清单
- 确认工具的使用频率是否随学生背景而分化。
- 如果需要支持的学生反而用得更少,就要怀疑存在使用门槛。
- 定期由人对自动推荐、自动分类的结果做抽样审查。
- 把工具引入前后后进学生的变化单独摘出来记录。即使整体平均没变,只要最落后的学生前进了一步,这次引入就是成功的。
- 在效果评估中不仅纳入学业成就,还要纳入差距指标(上下之差)。
要点总结
AI 不是中立的工具,而是放大设计者意图的工具。以后进学生为基准看效果、把包容功能设为默认、支持低配环境、检查偏差、在重大决定上保留人的参与——这五条原则能把同样的工具变成消除差距的杠杆。请把“差距缩小了”而不是“平均提高了”当作成功的标准。
登录后参与互动

来发表第一条评论吧。