• vgg/Alexnet最后三组全连接层fc的理解


    前面的5组pooling层:
    feature map 的** width 和 height** 随着每个pool操作缩小50%,5个pool 操作使得 width 和 height 逐渐变化:224->112->56->28->14->7,
    但是深度depth(或说是channel数),随着5组卷积在每次增大一倍:3->64->128->256->512->512。
    特征信息从一开始输入的224x224x3被变换到7x7x512(大概25000),从原本较为local的信息逐渐分摊到不同channel上,随着每次的conv和pool操作打散到channel层级上。

    三组全连接层:
    结构:前两组fc的形式是:fc4096-relu-dropout0.5,最后一个fc的形式就是:fc1000。
    ①可以发现feature map的维度在最后一个卷积后达到7x7x512(大概25000),紧接着压缩到4096维
    过渡:可能是作者认为这个过程太急,又接一个fc4096作为缓冲,
    同时两个fc4096后的relu又接dropout0.5 去过渡这个过程,
    ③因为最后即将给1k-way softmax,所以又接了一个fc1000去降低softmax的学习压力。

  • 相关阅读:
    java 字符流
    大兴安岭300余幅岩画得到及时保护
    [Hive]-Table
    [Hive]-DataBase
    [Hive]-列式存储篇
    [Hive]-架构篇
    [Hive]编译部署-hive-1.1.0-cdh5.7.0
    [Hadoop]-MapReduce-使用篇
    [Hadoop]MapReduce-架构篇
    [Hadoop]-常用命令
  • 原文地址:https://www.cnblogs.com/icemiaomiao3/p/15060580.html
Copyright © 2020-2023  润新知