后验概率就是一种条件概率,但是与其它条件概率的不同之处在于,它限定了目标事件为隐变量取值,而其中的条件为观测结果。
一般的条件概率,条件和事件都可以是任意的。
贝叶斯公式就是由先验概率求后验概率的公式
举例区分普通条件概率与后验概率的区别:
1)那么如果我们出门之前我们听到新闻说今天路上出了个交通事故,那么我们想算一下堵车的概率,这个就叫做条件概率 。也就是P(堵车|交通事故)。这是有因求果。
2)如果我们已经出了门,然后遇到了堵车,那么我们想算一下堵车时由交通事故引起的概率有多大,那这个就叫做后验概率 (其实也是条件概率,但是通常习惯这么说) 。也就是P(交通事故|堵车)。这是有果求因。
再举例如下:
一口袋里有3只红球、2只白球,采用不放回方式摸取,求:
⑴ 第一次摸到红球(记作A)的概率;
⑵ 第二次摸到红球(记作B)的概率;
⑶ 已知第二次摸到了红球,求第一次摸到的是红球的概率。
解:
⑴ P(A)=3/5,这就是先验概率;
⑵ P(B)=P(A)P(B|A)+P(A逆)P(B|A逆)=3/5
⑶ P(A|B)=P(B|A)·P(A)/P(B)=1/2,这就是后验概率。
从上述例子可知道,后验概率就是在已知某B事件发生的情况下,求解其中A事件发生的概率是多少,而A事件正是B事件发生的一个隐状态事件,所以A与B是有前后关联的。在利用贝叶斯进行文本分类的时候也是这个意思,P(c/d)=p(d/c)p(c)/p(d) ,d文档分为c类的概率,p(c)就是先验概率,p(c/d)就是后验概率,所以贝叶斯就是用先验概率估计后验概率。
而一般的条件概率,目标事件A和条件事件B,是可以没有任何关系的。