《机器学习基石》---机器学习的类型

1 从输入空间分类

（1）二元分类问题

（2）多元分类问题

（3）回归问题

（4）structure learning

2 从是否监督分类

（1）有监督学习

（2）无监督学习

聚类 约等于无监督的多元分类

密度估计 约等于无监督的回归分析

异常检测 约等于无监督的二元分类

（3）半监督学习

训练集部分标注

（4）增强学习

（x, y, goodness）

3 按protocol分类

（1）batch learning （批量数据）

（2）online learning (流式数据)：PLA能很方便的用在online learning上，增强学习通常也是online learning。

（3）active learning(主动学习)：问问题

4 从输入空间分类

（1）具体特征

（2）抽象特征（由机器或人来抽取）