AI 教学改革实践研究计划AI 教改实践研究计划 全国高等院校计算机基础教育研究会 ×实战云


AI 课件库 › 可信 AI › 公平与偏见

多边形的故事:一点点偏见如何造出隔离的社会

Parable of the Polygons · 独立发布,2014

一群只有「一点点」同类偏好的三角形和正方形,拖着拖着就把整个社区拖成了泾渭分明的两半;这是谢林 1971 年隔离模型的可玩版本。

适用
人工智能伦理、算法公平性、社会计算、数学建模
概念
谢林隔离模型、个体偏好与集体后果、涌现、临界点、路径依赖、算法偏见的机制类比
课时
入门 · 建议 25 分钟
网络
离线可用(不依赖外网,需能打开本站)

全屏打开实验 ↗ 原作源代码 ↗

交互实验(可直接投屏)

原作是一个完整的网页应用,下面直接嵌入;屏幕小或要投影时,点「全屏打开实验」更清楚。

动手三步

  1. 先玩第一个手动模拟:把不满意的多边形拖到空格子里,直到没有人再不满意,不要多想,随便挪
  2. 看结果:明明每个多边形都只要求同类邻居不少于三分之一,整个社区还是裂成了两块
  3. 进自动模拟跑几次,右边的曲线记录隔离程度随时间怎么爬升并见顶
  4. 用滑块把个体偏好从三分之一调到 0 再调高,看跨过某个点之后隔离程度怎么陡增
  5. 最关键的一步:世界一开始就是隔离的,这次把偏好调到 0,看会不会自动混回去
  6. 最后一个模拟:让多边形主动要求一点点多样性,看隔离怎么被打散

课堂怎么用

  • 先让学生手动拖,不讲任何理论;等结果出来再问「谁有偏见?」,没有人有,但结果发生了,这是讲系统性偏差最有效的一分钟
  • 把「偏好归零但世界不混回去」那一步单独拎出来讨论:为什么「我现在没有偏见」不足以修复已经形成的格局
  • 迁移到 AI:训练数据里一点点采样偏差,经过模型放大后会变成什么,与 E-06、E-03 串讲

思考题

  1. 每个多边形都只有一点点偏好,为什么整个社会会彻底分开?
  2. 把所有人的偏好调到零,已经隔离的世界会自动混回去吗?这说明了什么?
  3. 把这个模型搬到推荐算法或简历筛选上,「一点点偏好」对应的是什么?

已知限制

  • 游戏里的几个按钮和统计图的坐标标注是图片不是文字,运行时换不了,仍是英文
  • 开场的多语言切换链接已隐藏:那些链接指向境外站点,其中的中文版是另一个站点,与本镜像不是同一份
  • 原作文末推荐的捐款组织清单与媒体报道链接多已停更或大陆访问不到,已隐藏
  • 本作的模型源自美国居住区隔离研究,作者用「形状歧视」作类比;译文按原文如实翻译,未改动作者观点
  • 拖拽操作需要鼠标,手机和触摸屏上体验不佳,建议用电脑投影

原作 Parable of the Polygons(Vi Hart、Nicky Case,独立发布,2014),CC0 许可(原文),界面已中文化。

← 决策树森林探索 模型怎么学会歧视:藏起来的偏见 →

使用与数据说明 · 来源与许可