深度学习相关专业词汇简称汇总
zoerywzhou@gmail.com
http://www.cnblogs.com/swje/
作者：Zhouw
2016-3-15
版权声明：本文为博主原创文章，未经博主允许不得转载。
转载请注明出处：http://www.cnblogs.com/swje/p/5279349.html
作者是深度学习的初学者，经由导师指导，稍微学习了解了一下RNN、LSTM的网络模型及求导，打算在这里分享一下，欢迎各种交流。
ANN: Architectural Neutral Network——人工神经网络
CNN：Convolutional Neutral Network——卷积神经网络
RNN：Recurrent Neutral Network——递归神经网络
DBN: Deep Belief Network——深度置信/信念网络
DNN: Deep Neutral Network——深度神经网络
LSTM: Long Short-term memory ——长短期记忆，是一种特殊的RNN类型，可以学习长期依赖信息。
AE: AutoEncoder——自动编码器：given a NN,assume I=0，Then 训练调整期参数，得到每一层中的权重，就得到了 I 的几种不同表示，这些表示即特征。
Sparse coding——稀疏编码（在AE的基础上 加 L1 的regularity限制，即是。）【sparse 主要是约束每一层中的节点中的大部分都要为0，只有少数不为0】
RBM:Restrict Boltzman Machine——限制玻尔兹曼机
SVM:Support Vector Machines——支持向量机
LR: Logistic Regression——逻辑回归
GRU: Gated Recurrent Unit ——门限递归单元
BP: Back Propagation ——反向传播算法
BPTT: Back Propagation Through Time ——沿时间反向传播