本章我们将从生物神经元开始学习人工神经网络。
生物神经元
哺乳动物的大脑有数十亿个神经元。神经元是人脑中相互连接的神经细胞。神经元参与处理和传递化学信号和电信号，它们接受信号输入，在细胞核中处理信号，如果信号强度大于某个阈值，就会把信号输出。
人类的大脑可以学习识别物体。例如，婴儿多次看到椅子，并听父母说这是椅子，随着时间推移，他们将学会识别椅子。
以下是生物神经元的重要组成部分:
- 树突 – 从其他神经元接收信息的分支
- 细胞核 – 处理从树突接收到的信息
- 轴突 – 一种被神经元用来传递信息的生物电缆
- 突触 – 轴突和其他神经元树突之间的连接
人类大脑与人工神经网络
深度学习中的计算模型受到人类大脑的启发，被称为人工神经网络(ANN)。
人工神经网络，模仿哺乳动物大脑皮层的神经系统，但规模要小得多。它由许多简单的处理单元(神经元)互联组成，这些处理单元(神经元)的作用类似于生物神经元，接受信息输入，处理后向下一层输出信息。
人工神经网络结构
人工神经网络由多层人工神经元组成。层与层之间的神经元有连接，而层内之间的神经元没有连接。最左边的层叫做输入层，这层负责接收输入数据；最右边的层叫输出层，我们可以从这层获取神经网络输出数据。输入层和输出层之间的层叫做隐藏层。
人工神经元
人工神经网络可以包含多层，每层可以包含多个神经元。
神经元是一种计算单元，如上图所示，神经元可以接受多条输入信息，每条输入信息都有权重。
神经元中，输入信息被加权求和，再经过一个激活函数处理，然后生成输出信息。
假设正确的输出是预定义的，每次通过网络传递数据时，都会将最终结果与正确的结果进行比较，并根据差值对神经网络中权重值进行调整，直到网络可以生成正确的最终输出。
所以，所谓神经网络的学习过程，实际上就是确定神经元之间输入权重的过程。
神经网络的类型
常用的神经网络有:
- 人工神经网络(ANN)
- 卷积神经网络(CNN)
- 递归神经网络(RNN)
- 深度神经网络(DNN)
- 深度信念网络(DBN)
不同神经网络的使用场景如下:
| 神经网络 | 使用场景 |
|
人工神经网络(ANN) |
计算机神经科学 |
|
卷积神经网络(CNN) |
图像处理 |
|
递归神经网络(RNN) |
语音识别 |
|
深度神经网络(DNN) |
声学模型 |
|
深度信念网络(DBN) |
新药研发 |