清华大学：人工智能之机器学习2020年第1期（203页）.pdf

1、人工智能之机器学习 Artificial Intelligence Report of Machine Learning 2020 年第 1 期 顾问：朱军，唐杰 2020 年 1 月 1 概概述篇述篇 . 1 1.1 机器学习的概念 . 1 1.2 机器学习的发展历史 . 2 2 技术篇技术篇 . 5 2.1 机器学习算法分类 . 5 2.2 机器学习的经典代表算法 . 10 2.3 生成对抗网络及对抗机器学习 . 19 2.4 自动机器学习 . 29 2.5 可解释性机器学习 . 36 2.6 在线学习 . 41 2.7 BERT . 45 2.8 卷积与图卷积 . 56 2.9 隐私保护

2、 . 61 3 深度学习篇深度学习篇 . 67 3.1 卷积神经网络 . 69 3.2 AutoEncoder . 71 3.3 循环神经网络 RNN . 73 3.4 网络表示学习与图神经网络 GNN . 74 3.5 增强学习 . 76 3.6 生成对抗网络 . 78 3.7 老虎机 . 79 3.8 图神经网络 . 80 3.9 深度学习近期重要进展 . 82 4 论文解读篇论文解读篇 . 89 4.1 ICML 历年最佳论文解读 . 91 4.2 NeurlPS 历年最佳论文解读 . 99 4.3 专利解读 . 112 5 人才篇人才篇 . 119 5.1 学者情况概览 . 119 5

3、.2 代表性学者简介 . 121 5.3 NeurIPS 十年高引学者 . 145 6 应用篇应用篇 . 151 6.1 算法应用场景 . 151 6.2 行业应用 . 154 6.3 企业应用 . 161 6.4 北京智谱华章科技有限公司介绍 . 174 7 趋势篇趋势篇 . 178 8 资源篇资源篇 . 182 8.1 开源代码 . 182 8.2 预训练 . 183 8.3 课程 . 183 8.4 数据集 . 184 8.5 机器学习知识树 . 185 参考文献参考文献 . 187 图目录图目录 图 1-1 机器学习相关概念的辨识 . 2 图 1-2 机器学习基本过程 . 2 图 1-

4、3 机器学习的发展历程（1956-1995） . 3 图 1-4 机器学习的发展历程（2010-2016） . 4 图 2-1 机器学习分类 . 5 图 2-2 监督学习的基本流程 . 6 图 2-3 非监督学习的基本流程 . 7 图 2-4 一个典型的监督学习和非监督学习对比 . 8 图 2-5 强化学习的基本框架 . 8 图 2-6 强化学习的基本学习流程 . 10 图 2-7 数据集的绘制 x 和 y 值 . 11 图 2-8 一个简单的随机森林算法示意 . 12 图 2-9 逻辑函数曲线图 . 13 图 2-10 kNN 算法简单示例 . 14 图 2-11 AdaBoost 执行 .

5、 15 图 2-12 K-均值算法图示 . 16 图 2-13 SVM 的决策平面 . 17 图 2-14 SVM 的核函数 . 17 图 2-15 感知机 . 18 图 2-16 典型的人工神经网络结构 . 18 图 2-17 GAN 发展脉络 . 19 图 2-18 GAN 网络的架构 . 20 图 2-19 BigGAN 生成的图像 . 21 图 2-20 StackGAN 生成的图像 . 22 图 2-21 CycleGAN 生成的图像 . 22 图 2-22 Pix2pix 生成的图像 . 23 图 2-23 Age-cGAN 生成的图像 . 23 图 2-24 GAN 创作的 Ed

6、mond de Belamy . 24 图 2-25 Deep Fakes 换脸 . 24 图 2-26 标签操纵的分类准确率 . 26 图 2-27 对输入进行操纵导致的结果 . 26 图 2-28 建立影子模型 . 29 图 2-29 AutoML 基本过程 . 30 图 2-30 从 ML 角度看 AutoML . 30 图 2-31 从自动化角度看 AutoML . 30 图 2-32 网格搜索与随机搜索 . 31 图 2-33 神经结构搜索方法示意图 . 33 图 2-34 ATMSeer 自动机器学习定