• 深度学习笔记(九)感受野计算


    1 感受野的概念

      在卷积神经网络中,感受野的定义是 卷积神经网络每一层输出的特征图(feature map)上的像素点在原始图像上映射的区域大小。一般感受野大小是目标大小的两倍左右最合适!

      

      RCNN论文中有一段描述,Alexnet网络pool5输出的特征图上的像素在输入图像上有很大的感受野(have very large receptive fields (195 × 195 pixels))和步长(strides (32×32 pixels) ), 这两个变量的数值是如何得出的呢?

    2 感受野大小的计算

     感受野计算时有下面的几个情况需要说明:

      (1)第一层卷积层的输出特征图像素的感受野的大小等于滤波器的大小

      (2)深层卷积层的感受野大小和它之前所有层的滤波器大小和步长有关系

      (3)计算感受野大小时,忽略了图像边缘的影响,即不考虑padding的大小,关于这个疑惑大家可以阅读一下参考文章2的解答进行理解

    这里的每一个卷积层还有一个strides的概念,这个strides是之前所有层stride的乘积。  

    即strides(i) = stride(1) * stride(2) * ...* stride(i-1) 

    关于感受野大小的计算采用top to down的方式, 即先计算最深层在前一层上的感受野,然后逐渐传递到第一层,使用的公式可以表示如下:   

           RF = 1 #待计算的feature map上的感受野大小
      for layer in (top layer To down layer):
        RFdown = ((RFtop -1)* stride) + fsize

    stride 表示卷积的步长; fsize表示卷积层滤波器的大小  

    用python实现了计算Alexnet  zf-5和VGG16网络每层输出feature map的感受野大小,实现代码 receptiveField.py:

    #!/usr/bin/env python
    
    net_struct = {'alexnet': {'net':[[11,4,0],[3,2,0],[5,1,2],[3,2,0],[3,1,1],[3,1,1],[3,1,1],[3,2,0]],
                       'name':['conv1','pool1','conv2','pool2','conv3','conv4','conv5','pool5']},
                 'vgg16': {'net':[[3,1,1],[3,1,1],[2,2,0],[3,1,1],[3,1,1],[2,2,0],[3,1,1],[3,1,1],[3,1,1],
                            [2,2,0],[3,1,1],[3,1,1],[3,1,1],[2,2,0],[3,1,1],[3,1,1],[3,1,1],[2,2,0]],
                       'name':['conv1_1','conv1_2','pool1','conv2_1','conv2_2','pool2','conv3_1','conv3_2',
                             'conv3_3', 'pool3','conv4_1','conv4_2','conv4_3','pool4','conv5_1','conv5_2','conv5_3','pool5']},
                 'zf-5':{'net': [[7,2,3],[3,2,1],[5,2,2],[3,2,1],[3,1,1],[3,1,1],[3,1,1]],
                       'name': ['conv1','pool1','conv2','pool2','conv3','conv4','conv5']}}
    
    imsize = 224
    
    def outFromIn(isz, net, layernum):
        totstride = 1
        insize = isz
        for layer in range(layernum):
            fsize, stride, pad = net[layer]
            outsize = (insize - fsize + 2*pad) / stride + 1
            insize = outsize
            totstride = totstride * stride
        return outsize, totstride
    
    def inFromOut(net, layernum):
        RF = 1
        for layer in reversed(range(layernum)):
            fsize, stride, pad = net[layer]
            RF = ((RF -1)* stride) + fsize
        return RF
    
    if __name__ == '__main__':
        print "layer output sizes given image = %dx%d" % (imsize, imsize)
        
        for net in net_struct.keys():
            print '************net structrue name is %s**************'% net
            for i in range(len(net_struct[net]['net'])):
                p = outFromIn(imsize,net_struct[net]['net'], i+1)
                rf = inFromOut(net_struct[net]['net'], i+1)
                print "Layer Name = %s, Output size = %3d, Stride = % 3d, RF size = %3d" % (net_struct[net]['name'][i], p[0], p[1], rf)

    执行后的结果如下:

  • 相关阅读:
    Hadoop源代码点滴-自然常数e
    Hadoop点滴-Hadoop的IO
    Hadoop点滴-HDFS文件系统
    Hadoop点滴-HDFS命令行接口
    EasyUI
    EasyUI
    EasyUI
    EasyUI
    EasyUI
    EasyUI
  • 原文地址:https://www.cnblogs.com/xuanyuyt/p/7541606.html
Copyright © 2020-2023  润新知