几率均等：怎么衡量模型对不同人群是否公平
MLU-Explain · Equality of Odds · 亚马逊机器学习大学（MLU-Explain）
用录取这个场景讲算法公平：拖动概率阈值，看两个群体的假正例率和假负例率差值能不能同时归零，以及「让所有人都被拒」这种偷懒解为什么不算数。
交互实验（可直接投屏）
原作是一个完整的网页应用，下面直接嵌入；屏幕小或要投影时，点「全屏打开实验」更清楚。
动手三步
- 读几率均等的定义与公式，弄清为什么要比较错误率而不是错误个数
- 在蜂群图上拖动概率阈值，盯住两个群体的假正例率差值、假负例率差值和各自准确率
- 试着把两个差值同时拖到 0，再看看能拖出来的是不是「全拒」「全收」这类偷懒解
- 看两组 ROC 曲线，找两个群体上同时相等的那一个点
- 读最后两节：训练时加约束，和训练后按群体分别设阈值，两种做法各自的代价
课堂怎么用
- 先让学生用录取场景说出「错误拒绝」和「错误录用」分别伤害了谁，再引入两种错误率
- 让每组尝试找一个「公平」的阈值并报出准确率，全班比较公平与性能的代价
- 用偷懒解讨论：指标达标不等于系统可用，评价体系必须同时看公平和性能
思考题
- 为什么要比较错误率而不是错误的绝对数量？
- 「所有人都被拒绝」时假正例率差值为 0，为什么不能算公平？
- 要让模型对两个群体同时满足几率均等，一般要付出什么代价？
已知限制
- 数据集为讲解构造，两个群体只用几何符号表示，不对应任何真实人群
- 正文里指向本次未镜像主题的链接仍指向原作站点，课堂断网时点不开
- 几率均等只是众多公平性准则之一，原文也强调不同准则之间可能互相冲突
原作 MLU-Explain · Equality of Odds（Mia Mayer、Jared Wilber（亚马逊机器学习大学），亚马逊机器学习大学（MLU-Explain）），CC BY-SA 4.0 (文) + MIT-0 (码) 许可（原文），界面已中文化。中文译文与改编内容采用 CC BY-SA 4.0，保留原作署名并注明改动。