拓端tecdat|Python贝叶斯推断MetropolisHastings（MH）MCMC采样算法的实现

原文链接：http://tecdat.cn/?p=25376

原文出处：拓端数据部落公众号

Metropolis-Hastings 算法对概率分布进行采样以产生一组与原始分布成比例的轨迹。

首先，目标是什么？MCMC的目标是从某个概率分布中抽取样本，而不需要知道它在任何一点的确切概率。MCMC实现这一目标的方式是在该分布上 "徘徊"，使在每个地点花费的时间与分布的概率成正比。如果 "徘徊 "过程设置正确，你可以确保这种比例关系（花费的时间和分布的概率之间）得以实现

为了可视化算法的工作原理，我们在二维中实现它

1.  
    
2.  
   plt.style.use('ggplot')

首先，让我们创建并绘制任意目标分布

tart = np.append

1.  
   plt.hist
2.  
   plt.text

现在让我们写出算法。请注意，我们将原始数据分箱计算给定点的概率。这是算法如何工作的粗略概念

• 选择分布上的一个随机位置
• 提议分布上的一个新位置
• 如果提议的位置比当前的位置有更高的相对概率，就跳到这个位置（即把当前位置设置为新位置）
• 如果不是，也许还是跳。仍然跳的概率与新位置的概率低多少成正比
• 返回算法所到过的所有位置 

1.  
   def gees:
2.  
    
3.  
   daa = d.astype
4.  
   np.bincount # 产生一个范围为(i,i+1)的计数数组
5.  
   np.array([])
6.  
    
7.  
   crnt = int
8.  
   for i in xrange(n_ms):
9.  
   trs = np.append
10.  
    # 最终创建一个函数，选择一个好的跳跃距离
11.  
    # 如果当前位置的p很低，就把跳转的距离变大
12.  
    poo = int
13.  
    # 确保我们不离开边界
14.  
    while rood data.max or ppsd < data.min:
15.  
    pood = int
16.  
     
17.  
     
18.  
    if a > 1:
19.  
    cuent = prosed
20.  
    else:
21.  
    if np.random.random<= a:
22.  
    curnt = ppse

traces = get_traces(target, 5000)

1.  
   # 绘制目标分布图和轨迹分布图
2.  
    
3.  
   plt.hist
4.  
   plt.subplot(2,1,2)
5.  
   plt.hist
6.  
   plt.tight_layout
7.  
   plt.show

不仅轨迹的分布非常接近实际分布，样本均值也非常接近。绘制的样本点少于 5000 个，我们非常接近于近似目标分布的形状。

---

最受欢迎的见解

1.matlab使用贝叶斯优化的深度学习

2.matlab贝叶斯隐马尔可夫hmm模型实现

3.R语言Gibbs抽样的贝叶斯简单线性回归仿真

4.R语言中的block Gibbs吉布斯采样贝叶斯多元线性回归

5.R语言中的Stan概率编程MCMC采样的贝叶斯模型

6.Python用PyMC3实现贝叶斯线性回归模型

7.R语言使用贝叶斯 层次模型进行空间数据分析

8.R语言随机搜索变量选择SSVS估计贝叶斯向量自回归（BVAR）模型

9.matlab贝叶斯隐马尔可夫hmm模型实现