AI 教学改革实践研究计划AI 教改实践研究计划 全国高等院校计算机基础教育研究会 ×实战云


AI 课件库 › 大模型与生成式 AI › 生成模型

GAN 实验室

GAN Lab · IEEE VAST 2018

生成器和判别器在二维平面上实时对抗训练,看假数据怎么一步步逼近真数据的分布。

适用
深度学习、生成式 AI 通识课
概念
生成对抗网络、生成器、判别器
课时
进阶 · 建议 25 分钟
网络
离线可用

全屏打开实验 ↗ 原作源代码 ↗

交互实验(可直接投屏)

原作是一个完整的网页应用,下面直接嵌入;屏幕小或要投影时,点「全屏打开实验」更清楚。

动手三步

  1. 在顶部「数据分布」里点「环形」(切换后训练轮数归零,从头开始训练)。要用两团点的「高斯混合」,先取消下面的「使用预训练模型」,否则一打开就已经是训练好的状态
  2. 点中间的大圆按钮开始训练,看紫色的假样本怎样一点点铺到绿色的真样本上;再点一次暂停
  3. 点播放键右边的「训练一轮」,顶部会出现「生成器 / 判别器 / 两者」:先只点「判别器」三次,看背景的绿紫分区在变而紫点不动;再只点「生成器」三次,看紫点开始移动
  4. 点「模型概览图」旁的铅笔图标展开超参数(优化器、学习率、每轮更新次数),按「课堂怎么用」里的三组参数做对照;注意换数据分布会把参数恢复成默认值

课堂怎么用

  • 用「造假币的人和验钞机」讲对抗,再让学生看二维图上真假点的博弈
  • 做三组可复现的对照(结果有随机性,课前各跑一遍):① 选「3 个互不相连的区域」用默认参数训练 40 秒,看假样本是不是只追着一团跑(模式坍塌);② 选「高斯混合」取消预训练,判别器学习率调到 0.001、生成器 0.1,判别器太弱,假样本缩成一条线;③ 判别器学习率 0.3、每轮更新 5 次,生成器 0.003,判别器太强,粉色梯度线又长又乱
  • 指右侧的损失曲线:两条此消彼长,训练得好时都在 0.7 附近徘徊,意思是判别器只能靠猜

思考题

  1. 判别器太强或太弱,分别会出现什么问题?
  2. 生成的点只挤在一个区域里,说明了什么?
  3. 现在的 AI 画图工具,用的还是 GAN 吗?

已知限制

  • 原站依赖的 code.getmdl.io 已失效导致全网打不开,本展品已改用同版本本地文件修复
  • 讲解视频已隐藏;正文里仍留着「看这段视频」的字样和视频目录,那是原作 2018 年的写法,「几年前才被提出」同样是当时的时态
  • 打开时默认勾选「使用预训练模型」,直接点播放看不到「从乱到齐」的过程;点任一数据分布即可自动取消
  • 超参数面板里点上下箭头改「隐藏层」「神经元」「每轮更新次数」后,屏幕上显示的中文数字暂时不会刷新,实际参数已经改了,以训练效果为准
  • 右侧指标面板的图例、噪声与损失两个下拉项仍是英文;投屏建议把浏览器缩放到 80%,否则 1024×768 下右边会被截掉

原作 GAN Lab(Minsuk Kahng, Nikhil Thorat, Duen Horng Chau, Fernanda Viégas, Martin Wattenberg(佐治亚理工与谷歌 PAIR),IEEE VAST 2018),Apache-2.0 许可(原文),界面已中文化。

← word2vec 是怎么一步步训出词向量的 把模型问到底 →

使用与数据说明 · 来源与许可