生成模型和判别模型

1、通俗解释：

https://www.cnblogs.com/czdbest/p/5771500.html

SVM、决策树等都是在给定x的情况下直接对p(y|x;Θ)进行建模。例如，逻辑回归利用h_θ(x) = g(θ^Tx)对p(y|x;Θ)建模。

现在考虑这样一个分类问题，我们想根据一些特征来区别动物是大象(y=1)还是狗(y=0)。给定了这样一个训练集，逻辑回归或感知机算法要做的就是去找到一个决策边界，将大象和狗的样本分开来。但是如果换个思路，首先根据大象的特征来学习出一个大象的模型，然后根据狗的特征学习出狗的模型，最后对于一个新的样本，提取它的特征先放到大象的模型中求得是大象的概率，然后放到狗的模型中求得是狗的概率，最后我们比较两个概率哪个大，即确定这个动物是哪种类型。也即求p(x|y)(也包括p(y))，y为输出结果，x为特征。