最近在研究深度学习的论文,但是由于基础薄弱,所以下网上看了好多关于感知器的文章,总结如下:
我们先从最简单的单层感知机学起,单层感知机是一个多输入单输出的模型。
输入:x1, x2
权重:w1, w2
偏置:b
输出:y
为什么要f映射呢?
我们知道f是激活函数,是非线性函数。
如果我们没有激活函数,这个神经网络的输出会怎样?
第一层输出:
第二层输出:
将第一层代入到第二层:
令
则
# 与门逻辑电路 def AND(x1, x2): w1, w2, theta = 0.5, 0.5, 0.7 tmp = x1*w1 + x2*w2 if tmp <= theta: return 0 else: return 1 AND(0, 0) # 输出0 AND(1, 0) # 输出0 AND(0, 1) # 输出0 AND(1, 1) # 输出1
import numpy as np def AND(x1,x2): x = np.array([x1,x2]) # 输入 w = np.array([0.5,0.5]) # 权重 b = -0.7 # 激活函数 temp = np.sum(w*x)+b if temp <=0: return 0 else: return 1