- 整个花书的思维导图：
机器学习：让计算机使用算法从数据中提取模式和特征。
注解：
- 分类：如给一张图片，判别里面都有什么东西。预测一个离散的类别。
- 回归：如根据面积和地段做房价预测。如预测股票价格。预测一个连续的值。
- 聚类：按照数据的自相似性，把数据聚类成不同的簇。
- 降维：把高维数据降到低维，特别是降到人类能理解的3维或者2维，然后看它的分布。
做分类的算法：
深度学习：用深度神经网络来解决机器学习问题。
下图是卷积神经网络进行图像分类的一个案例。
注解：
- 把像素信息变为语义信息。
- 深度学习和机器学习的关系：
深度学习是要解决机器学习问题，所以机器学习包含深度学习，深度学习的圈是在机器学习的大圈儿里面的。
逻辑回归是一个二分类问题，用sigmoid函数去映射，大于0.5分为一类，小于0.5分为另一类。
MLPs:多层感知器也叫做前馈神经网络，也叫做全连接神经网络。
现代的深度学习和以前的深度学习的区别：卷积神经网络可以从(图像)数据中自动提取特征，不需要人工设计特征。
- 深度学习用词的演变：
蓝色线：控制论
绿色线：联结主义，后期叫做神经网络、深度学习
- 数据：
Hinton称MNIST数据集[10分类手写数字数据集]是深度学习领域科学家做深度学习实验的果蝇载体。(在生物领域，道尔顿用果蝇做遗传学实验。)
有两个重要的节点是2012年和二零一五年，2012年AlexNet的作者首先将卷积神经网络应用于图像分类里面，相比于去年的进展是飞跃性的。2015年，微软亚洲研究院的研究员何凯明、任少卿、孙剑提出的深度残差网络对图像的分类识别准确率首次超越人类。到了2017年，李飞飞认为图像分类问题已经解决了，所以Imagenet图像分类竞赛比赛杀青。
