似然
“似然”是对likelihood 的一种较为贴近文言文的翻译.
“似然”用现代的中文来说即“可能性”。
似然函数
设总体X服从分布P(x;θ)(当X是连续型随机变量时为概率密度,当X为离散型随机变量时为概率分布),θ为待估参数,X1,X2,…Xn是来自于总体 X的样本,x1,x2…xn为样本X1,X2,…Xn的一个观察值,则样本的联合分布(当X是连续型随机变量时为概率密度,当X为离散型随机变量时为概率分布)
L(θ)=L(x1,x2,…,xn;θ)=ΠP(xi;θ)称为似然函数.
最大似然估计
我们可能不知道θ的值,尽管我们知道这些采样数据来自于分布D。那么我们如何才能估计出θ呢?一个自然的想法是从这个分布中抽出一个具有n个值的采样X1,X2,...,Xn,然后用这些采样数据来估计θ.
一旦我们获得X1,X2,...,Xn,我们就能从中找到一个关于θ的估计。
最大似然估计会寻找关于θ的最可能的值(即,在所有可能的θ取值中,寻找一个值使这个采样的“可能性”最大化)。
REF:
http://www.hudong.com/wiki/%E4%BC%BC%E7%84%B6?hf=youdaocitiao&pf=youdaocitiao
http://baike.baidu.com/view/1864828.htm
http://zh.wikipedia.org/zh-cn/%E6%9C%80%E5%A4%A7%E4%BC%BC%E7%84%B6%E4%BC%B0%E8%AE%A1