深度学习简介
预备知识
深度学习基础
深度学习计算
卷积神经网络
循环神经网络
优化算法
优化与深度学习
本节将讨论优化与深度学习的关系，以及优化在深度学习中的挑战。在一个深度学习问题中，我们通常会预先定义一个损失函数。有了损失函数以后，我们就可以使用优化算法试图将其最小化。在优化中，这样的损失函数通常被称作优化问题的目标函数（objective function）。依据惯例，优化算法通常只考虑最小化目标函数。其实，任何最大化问题都可以很容易地转化为最小化问题，只需令目标函数的相反数为新的目标函数即可。
优化与深度学习的关系
虽然优化为深度学习提供了最小化损失函数的方法，但本质上，优化与深度学习的目标是有区别的。
在3.11节（模型选择、欠拟合和过拟合）中，我们区分了训练误差和泛化误差。
由于优化算法的目标函数通常是一个基于训练数据集的损失函数，优化的目标在于降低训练误差。
而深度学习的目标在于降低泛化误差。为了降低泛化误差，除了使用优化算法降低训练误差以外，还需要注意应对过拟合。
本章中，我们只关注优化算法在最小化目标函数上的表现，而不关注模型的泛化误差。
优化在深度学习中的挑战
我们在3.1节（线性回归）中对优化问题的解析解和数值解做了区分。深度学习中绝大多数目标函数都很复杂。因此，很多优化问题并不存在解析解，而需要使用基于数值方法的优化算法找到近似解，即数值解。本书中讨论的优化算法都是这类基于数值方法的算法。为了求得最小化目标函数的数值解，我们将通过优化算法有限次迭代模型参数来尽可能降低损失函数的值。
优化在深度学习中有很多挑战。下面描述了其中的两个挑战，即局部最小值和鞍点。为了更好地描述问题，我们先导入本节中实验需要的包或模块。
%matplotlib inline
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
from mpl_toolkits import mplot3d # 三维画图
import numpy as np
局部最小值
对于目标函数(f(x))，如果(f(x))在(x)上的值比在(x)邻近的其他点的值更小，那么(f(x))可能是一个局部最小值（local minimum）。如果(f(x))在(x)上的值是目标函数在整个定义域上的最小值，那么(f(x))是全局最小值（global minimum）。
举个例子，给定函数
我们可以大致找出该函数的局部最小值和全局最小值的位置。需要注意的是，图中箭头所指示的只是大致位置。
def f(x):
return x * np.cos(np.pi * x)
d2l.set_figsize((4.5, 2.5))
x = np.arange(-1.0, 2.0, 0.1)
fig, = d2l.plt.plot(x, f(x))
fig.axes.annotate('local minimum', xy=(-0.3, -0.25), xytext=(-0.77, -1.0),
arrowprops=dict(arrowstyle='->'))
fig.axes.annotate('global minimum', xy=(1.1, -0.95), xytext=(0.6, 0.8),
arrowprops=dict(arrowstyle='->'))
d2l.plt.xlabel('x')
d2l.plt.ylabel('f(x)');
深度学习模型的目标函数可能有若干局部最优值。当一个优化问题的数值解在局部最优解附近时，由于目标函数有关解的梯度接近或变成零，最终迭代求得的数值解可能只令目标函数局部最小化而非全局最小化。
鞍点
刚刚我们提到，梯度接近或变成零可能是由于当前解在局部最优解附近造成的。事实上，另一种可能性是当前解在鞍点（saddle point）附近。
举个例子，给定函数
我们可以找出该函数的鞍点位置。
x = np.arange(-2.0, 2.0, 0.1)
fig, = d2l.plt.plot(x, x**3)
fig.axes.annotate('saddle point', xy=(0, -0.2), xytext=(-0.52, -5.0),
arrowprops=dict(arrowstyle='->'))
d2l.plt.xlabel('x')
d2l.plt.ylabel('f(x)');
再举个定义在二维空间的函数的例子，例如：
我们可以找出该函数的鞍点位置。也许你已经发现了，该函数看起来像一个马鞍，而鞍点恰好是马鞍上可坐区域的中心。
x, y = np.mgrid[-1: 1: 31j, -1: 1: 31j]
z = x**2 - y**2
ax = d2l.plt.figure().add_subplot(111, projection='3d')
ax.plot_wireframe(x, y, z, **{'rstride': 2, 'cstride': 2})
ax.plot([0], [0], [0], 'rx')
ticks = [-1, 0, 1]
d2l.plt.xticks(ticks)
d2l.plt.yticks(ticks)
ax.set_zticks(ticks)
d2l.plt.xlabel('x')
d2l.plt.ylabel('y');
在图的鞍点位置，目标函数在(x)轴方向上是局部最小值，但在(y)轴方向上是局部最大值。
假设一个函数的输入为(k)维向量，输出为标量，那么它的海森矩阵（Hessian matrix）有(k)个特征值。该函数在梯度为0的位置上可能是局部最小值、局部最大值或者鞍点。
- 当函数的海森矩阵在梯度为零的位置上的特征值全为正时，该函数得到局部最小值。
- 当函数的海森矩阵在梯度为零的位置上的特征值全为负时，该函数得到局部最大值。
- 当函数的海森矩阵在梯度为零的位置上的特征值有正有负时，该函数得到鞍点。
随机矩阵理论告诉我们，对于一个大的高斯随机矩阵来说，任一特征值是正或者是负的概率都是0.5 [1]。那么，以上第一种情况的概率为 (0.5^k)。由于深度学习模型参数通常都是高维的（(k)很大），目标函数的鞍点通常比局部最小值更常见。
在深度学习中，虽然找到目标函数的全局最优解很难，但这并非必要。我们将在本章接下来的几节中逐一介绍深度学习中常用的优化算法，它们在很多实际问题中都能够训练出十分有效的深度学习模型。
小结
- 由于优化算法的目标函数通常是一个基于训练数据集的损失函数，优化的目标在于降低训练误差。
- 由于深度学习模型参数通常都是高维的，目标函数的鞍点通常比局部最小值更常见。
参考文献
[1] Wigner, E. P. (1958). On the distribution of the roots of certain symmetric matrices. Annals of Mathematics, 325-327.
注：本节与原书基本相同，原书传送门
梯度下降和随机梯度下降
在本节中，我们将介绍梯度下降（gradient descent）的工作原理。虽然梯度下降在深度学习中很少被直接使用，但理解梯度的意义以及沿着梯度反方向更新自变量可能降低目标函数值的原因是学习后续优化算法的基础。随后，我们将引出随机梯度下降（stochastic gradient descent）。
一维梯度下降
我们先以简单的一维梯度下降为例，解释梯度下降算法可能降低目标函数值的原因。假设连续可导的函数(f: mathbb{R} ightarrow mathbb{R})的输入和输出都是标量。给定绝对值足够小的数(epsilon)，根据泰勒展开公式，我们得到以下的近似：
这里(f'(x))是函数(f)在(x)处的梯度。一维函数的梯度是一个标量，也称导数。
接下来，找到一个常数(eta > 0)，使得(left|eta f'(x) ight|)足够小，那么可以将(epsilon)替换为(-eta f'(x))并得到
如果导数(f'(x) eq 0)，那么(eta f'(x)^2>0)，所以
这意味着，如果通过
来迭代(x)，函数(f(x))的值可能会降低。因此在梯度下降中，我们先选取一个初始值(x)和常数(eta > 0)，然后不断通过上式来迭代(x)，直到达到停止条件，例如(f'(x)^2)的值已足够小或迭代次数已达到某个值。
下面我们以目标函数(f(x)=x^2)为例来看一看梯度下降是如何工作的。虽然我们知道最小化(f(x))的解为(x=0)，这里依然使用这个简单函数来观察(x)是如何被迭代的。首先，导入本节实验所需的包或模块。
%matplotlib inline
import numpy as np
import torch
import math
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
接下来使用(x=10)作为初始值，并设(eta=0.2)。使用梯度下降对(x)迭代10次，可见最终(x)的值较接近最优解。
def gd(eta):
x = 10
results = [x]
for i in range(10):
x -= eta * 2 * x # f(x) = x * x的导数为f'(x) = 2 * x
results.append(x)
print('epoch 10, x:', x)
return results
res = gd(0.2)
输出：
epoch 10, x: 0.06046617599999997
下面将绘制出自变量(x)的迭代轨迹。
def show_trace(res):
n = max(abs(min(res)), abs(max(res)), 10)
f_line = np.arange(-n, n, 0.1)
d2l.set_figsize()
d2l.plt.plot(f_line, [x * x for x in f_line])
d2l.plt.plot(res, [x * x for x in res], '-o')
d2l.plt.xlabel('x')
d2l.plt.ylabel('f(x)')
show_trace(res)
学习率
上述梯度下降算法中的正数(eta)通常叫作学习率。这是一个超参数，需要人工设定。如果使用过小的学习率，会导致(x)更新缓慢从而需要更多的迭代才能得到较好的解。
下面展示使用学习率(eta=0.05)时自变量(x)的迭代轨迹。可见，同样迭代10次后，当学习率过小时，最终(x)的值依然与最优解存在较大偏差。
show_trace(gd(0.05))
输出：
epoch 10, x: 3.4867844009999995
如果使用过大的学习率，(left|eta f'(x) ight|)可能会过大从而使前面提到的一阶泰勒展开公式不再成立：这时我们无法保证迭代(x)会降低(f(x))的值。
举个例子，当设学习率(eta=1.1)时，可以看到(x)不断越过（overshoot）最优解(x=0)并逐渐发散。
show_trace(gd(1.1))
输出：
epoch 10, x: 61.917364224000096
多维梯度下降
在了解了一维梯度下降之后，我们再考虑一种更广义的情况：目标函数的输入为向量，输出为标量。假设目标函数(f: mathbb{R}^d ightarrow mathbb{R})的输入是一个(d)维向量(oldsymbol{x} = [x_1, x_2, ldots, x_d]^ op)。目标函数(f(oldsymbol{x}))有关(oldsymbol{x})的梯度是一个由(d)个偏导数组成的向量：
为表示简洁，我们用( abla f(oldsymbol{x}))代替( abla_{oldsymbol{x}} f(oldsymbol{x}))。梯度中每个偏导数元素(partial f(oldsymbol{x})/partial x_i)代表着(f)在(oldsymbol{x})有关输入(x_i)的变化率。为了测量(f)沿着单位向量(oldsymbol{u})（即(|oldsymbol{u}|=1)）方向上的变化率，在多元微积分中，我们定义(f)在(oldsymbol{x})上沿着(oldsymbol{u})方向的方向导数为
依据方向导数性质[1，14.6节定理三]，以上方向导数可以改写为
方向导数( ext{D}_{oldsymbol{u}} f(oldsymbol{x}))给出了(f)在(oldsymbol{x})上沿着所有可能方向的变化率。为了最小化(f)，我们希望找到(f)能被降低最快的方向。因此，我们可以通过单位向量(oldsymbol{u})来最小化方向导数( ext{D}_{oldsymbol{u}} f(oldsymbol{x}))。
由于( ext{D}_{oldsymbol{u}} f(oldsymbol{x}) = |
abla f(oldsymbol{x})| cdot |oldsymbol{u}| cdot ext{cos} ( heta) = |
abla f(oldsymbol{x})| cdot ext{cos} ( heta))，
其中( heta)为梯度(
abla f(oldsymbol{x}))和单位向量(oldsymbol{u})之间的夹角，当( heta = pi)时，( ext{cos}( heta))取得最小值(-1)。因此，当(oldsymbol{u})在梯度方向(
abla f(oldsymbol{x}))的相反方向时，方向导数( ext{D}_{oldsymbol{u}} f(oldsymbol{x}))被最小化。因此，我们可能通过梯度下降算法来不断降低目标函数(f)的值：
同样，其中(eta)（取正数）称作学习率。
下面我们构造一个输入为二维向量(oldsymbol{x} = [x_1, x_2]^ op)和输出为标量的目标函数(f(oldsymbol{x})=x_1^2+2x_2^2)。那么，梯度( abla f(oldsymbol{x}) = [2x_1, 4x_2]^ op)。我们将观察梯度下降从初始位置([-5,-2])开始对自变量(oldsymbol{x})的迭代轨迹。我们先定义两个辅助函数，第一个函数使用给定的自变量更新函数，从初始位置([-5,-2])开始迭代自变量(oldsymbol{x})共20次，第二个函数对自变量(oldsymbol{x})的迭代轨迹进行可视化。
def train_2d(trainer): # 本函数将保存在d2lzh_pytorch包中方便以后使用
x1, x2, s1, s2 = -5, -2, 0, 0 # s1和s2是自变量状态，本章后续几节会使用
results = [(x1, x2)]
for i in range(20):
x1, x2, s1, s2 = trainer(x1, x2, s1, s2)
results.append((x1, x2))
print('epoch %d, x1 %f, x2 %f' % (i + 1, x1, x2))
return results
def show_trace_2d(f, results): # 本函数将保存在d2lzh_pytorch包中方便以后使用
d2l.plt.plot(*zip(*results), '-o', color='#ff7f0e')
x1, x2 = np.meshgrid(np.arange(-5.5, 1.0, 0.1), np.arange(-3.0, 1.0, 0.1))
d2l.plt.contour(x1, x2, f(x1, x2), colors='#1f77b4')
d2l.plt.xlabel('x1')
d2l.plt.ylabel('x2')
然后，观察学习率为(0.1)时自变量的迭代轨迹。使用梯度下降对自变量(oldsymbol{x})迭代20次后，可见最终(oldsymbol{x})的值较接近最优解([0,0])。
eta = 0.1
def f_2d(x1, x2): # 目标函数
return x1 ** 2 + 2 * x2 ** 2
def gd_2d(x1, x2, s1, s2):
return (x1 - eta * 2 * x1, x2 - eta * 4 * x2, 0, 0)
show_trace_2d(f_2d, train_2d(gd_2d))
输出：
epoch 20, x1 -0.057646, x2 -0.000073
随机梯度下降
在深度学习里，目标函数通常是训练数据集中有关各个样本的损失函数的平均。设(f_i(oldsymbol{x}))是有关索引为(i)的训练数据样本的损失函数，(n)是训练数据样本数，(oldsymbol{x})是模型的参数向量，那么目标函数定义为
目标函数在(oldsymbol{x})处的梯度计算为
如果使用梯度下降，每次自变量迭代的计算开销为(mathcal{O}(n))，它随着(n)线性增长。因此，当训练数据样本数很大时，梯度下降每次迭代的计算开销很高。
随机梯度下降（stochastic gradient descent，SGD）减少了每次迭代的计算开销。在随机梯度下降的每次迭代中，我们随机均匀采样的一个样本索引(iin{1,ldots,n})，并计算梯度( abla f_i(oldsymbol{x}))来迭代(oldsymbol{x})：
这里(eta)同样是学习率。可以看到每次迭代的计算开销从梯度下降的(mathcal{O}(n))降到了常数(mathcal{O}(1))。值得强调的是，随机梯度( abla f_i(oldsymbol{x}))是对梯度( abla f(oldsymbol{x}))的无偏估计：
这意味着，平均来说，随机梯度是对梯度的一个良好的估计。
下面我们通过在梯度中添加均值为0的随机噪声来模拟随机梯度下降，以此来比较它与梯度下降的区别。
def sgd_2d(x1, x2, s1, s2):
return (x1 - eta * (2 * x1 + np.random.normal(0.1)),
x2 - eta * (4 * x2 + np.random.normal(0.1)), 0, 0)
show_trace_2d(f_2d, train_2d(sgd_2d))
输出：
epoch 20, x1 -0.047150, x2 -0.075628
可以看到，随机梯度下降中自变量的迭代轨迹相对于梯度下降中的来说更为曲折。这是由于实验所添加的噪声使模拟的随机梯度的准确度下降。在实际中，这些噪声通常指训练数据集中的无意义的干扰。
小结
- 使用适当的学习率，沿着梯度反方向更新自变量可能降低目标函数值。梯度下降重复这一更新过程直到得到满足要求的解。
- 学习率过大或过小都有问题。一个合适的学习率通常是需要通过多次实验找到的。
- 当训练数据集的样本较多时，梯度下降每次迭代的计算开销较大，因而随机梯度下降通常更受青睐。
参考文献
[1] Stewart, J. (2010). Calculus: early transcendentals. 7th ed. Cengage Learning.
注：本节与原书基本相同，原书传送门
小批量随机梯度下降
在每一次迭代中，梯度下降使用整个训练数据集来计算梯度，因此它有时也被称为批量梯度下降（batch gradient descent）。而随机梯度下降在每次迭代中只随机采样一个样本来计算梯度。正如我们在前几章中所看到的，我们还可以在每轮迭代中随机均匀采样多个样本来组成一个小批量，然后使用这个小批量来计算梯度。下面就来描述小批量随机梯度下降。
设目标函数(f(oldsymbol{x}): mathbb{R}^d ightarrow mathbb{R})。在迭代开始前的时间步设为0。该时间步的自变量记为(oldsymbol{x}_0in mathbb{R}^d)，通常由随机初始化得到。在接下来的每一个时间步(t>0)中，小批量随机梯度下降随机均匀采样一个由训练数据样本索引组成的小批量(mathcal{B}_t)。我们可以通过重复采样（sampling with replacement）或者不重复采样（sampling without replacement）得到一个小批量中的各个样本。前者允许同一个小批量中出现重复的样本，后者则不允许如此，且更常见。对于这两者间的任一种方式，都可以使用
来计算时间步(t)的小批量(mathcal{B}_t)上目标函数位于(oldsymbol{x}_{t-1})处的梯度(oldsymbol{g}_t)。这里(|mathcal{B}|)代表批量大小，即小批量中样本的个数，是一个超参数。同随机梯度一样，重复采样所得的小批量随机梯度(oldsymbol{g}_t)也是对梯度( abla f(oldsymbol{x}_{t-1}))的无偏估计。给定学习率(eta_t)（取正数），小批量随机梯度下降对自变量的迭代如下：
基于随机采样得到的梯度的方差在迭代过程中无法减小，因此在实际中，（小批量）随机梯度下降的学习率可以在迭代过程中自我衰减，例如(eta_t=eta t^alpha)（通常(alpha=-1)或者(-0.5)）、(eta_t = eta alpha^t)（如(alpha=0.95)）或者每迭代若干次后将学习率衰减一次。如此一来，学习率和（小批量）随机梯度乘积的方差会减小。而梯度下降在迭代过程中一直使用目标函数的真实梯度，无须自我衰减学习率。
小批量随机梯度下降中每次迭代的计算开销为(mathcal{O}(|mathcal{B}|))。当批量大小为1时，该算法即为随机梯度下降；当批量大小等于训练数据样本数时，该算法即为梯度下降。当批量较小时，每次迭代中使用的样本少，这会导致并行处理和内存使用效率变低。这使得在计算同样数目样本的情况下比使用更大批量时所花时间更多。当批量较大时，每个小批量梯度里可能含有更多的冗余信息。为了得到较好的解，批量较大时比批量较小时需要计算的样本数目可能更多，例如增大迭代周期数。
读取数据
本章里我们将使用一个来自NASA的测试不同飞机机翼噪音的数据集来比较各个优化算法 [1]。我们使用该数据集的前1,500个样本和5个特征，并使用标准化对数据进行预处理。
%matplotlib inline
import numpy as np
import time
import torch
from torch import nn, optim
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
def get_data_ch7(): # 本函数已保存在d2lzh_pytorch包中方便以后使用
data = np.genfromtxt('../../data/airfoil_self_noise.dat', delimiter=' ')
data = (data - data.mean(axis=0)) / data.std(axis=0)
return torch.tensor(data[:1500, :-1], dtype=torch.float32),
torch.tensor(data[:1500, -1], dtype=torch.float32) # 前1500个样本(每个样本5个特征)
features, labels = get_data_ch7()
features.shape # torch.Size([1500, 5])
从零开始实现
3.2节（线性回归的从零开始实现）中已经实现过小批量随机梯度下降算法。我们在这里将它的输入参数变得更加通用，主要是为了方便本章后面介绍的其他优化算法也可以使用同样的输入。具体来说，我们添加了一个状态输入states并将超参数放在字典hyperparams里。此外，我们将在训练函数里对各个小批量样本的损失求平均，因此优化算法里的梯度不需要除以批量大小。
def sgd(params, states, hyperparams):
for p in params:
p.data -= hyperparams['lr'] * p.grad.data
下面实现一个通用的训练函数，以方便本章后面介绍的其他优化算法使用。它初始化一个线性回归模型，然后可以使用小批量随机梯度下降以及后续小节介绍的其他算法来训练模型。
# 本函数已保存在d2lzh_pytorch包中方便以后使用
def train_ch7(optimizer_fn, states, hyperparams, features, labels,
batch_size=10, num_epochs=2):
# 初始化模型
net, loss = d2l.linreg, d2l.squared_loss
w = torch.nn.Parameter(torch.tensor(np.random.normal(0, 0.01, size=(features.shape[1], 1)), dtype=torch.float32),
requires_grad=True)
b = torch.nn.Parameter(torch.zeros(1, dtype=torch.float32), requires_grad=True)
def eval_loss():
return loss(net(features, w, b), labels).mean().item()
ls = [eval_loss()]
data_iter = torch.utils.data.DataLoader(
torch.utils.data.TensorDataset(features, labels), batch_size, shuffle=True)
for _ in range(num_epochs):
start = time.time()
for batch_i, (X, y) in enumerate(data_iter):
l = loss(net(X, w, b), y).mean() # 使用平均损失
# 梯度清零
if w.grad is not None:
w.grad.data.zero_()
b.grad.data.zero_()
l.backward()
optimizer_fn([w, b], states, hyperparams) # 迭代模型参数
if (batch_i + 1) * batch_size % 100 == 0:
ls.append(eval_loss()) # 每100个样本记录下当前训练误差
# 打印结果和作图
print('loss: %f, %f sec per epoch' % (ls[-1], time.time() - start))
d2l.set_figsize()
d2l.plt.plot(np.linspace(0, num_epochs, len(ls)), ls)
d2l.plt.xlabel('epoch')
d2l.plt.ylabel('loss')
当批量大小为样本总数1,500时，优化使用的是梯度下降。梯度下降的1个迭代周期对模型参数只迭代1次。可以看到6次迭代后目标函数值（训练损失）的下降趋向了平稳。
def train_sgd(lr, batch_size, num_epochs=2):
train_ch7(sgd, None, {'lr': lr}, features, labels, batch_size, num_epochs)
train_sgd(1, 1500, 6)
输出：
loss: 0.243605, 0.014335 sec per epoch
当批量大小为1时，优化使用的是随机梯度下降。为了简化实现，有关（小批量）随机梯度下降的实验中，我们未对学习率进行自我衰减，而是直接采用较小的常数学习率。随机梯度下降中，每处理一个样本会更新一次自变量（模型参数），一个迭代周期里会对自变量进行1,500次更新。可以看到，目标函数值的下降在1个迭代周期后就变得较为平缓。
train_sgd(0.005, 1)
输出：
loss: 0.243433, 0.270011 sec per epoch
虽然随机梯度下降和梯度下降在一个迭代周期里都处理了1,500个样本，但实验中随机梯度下降的一个迭代周期耗时更多。这是因为随机梯度下降在一个迭代周期里做了更多次的自变量迭代，而且单样本的梯度计算难以有效利用矢量计算。
当批量大小为10时，优化使用的是小批量随机梯度下降。它在每个迭代周期的耗时介于梯度下降和随机梯度下降的耗时之间。
train_sgd(0.05, 10)
输出：
loss: 0.242805, 0.078792 sec per epoch
简洁实现
在PyTorch里可以通过创建optimizer实例来调用优化算法。这能让实现更简洁。下面实现一个通用的训练函数，它通过优化算法的函数optimizer_fn和超参数optimizer_hyperparams来创建optimizer实例。
# 本函数与原书不同的是这里第一个参数优化器函数而不是优化器的名字
# 例如: optimizer_fn=torch.optim.SGD, optimizer_hyperparams={"lr": 0.05}
def train_pytorch_ch7(optimizer_fn, optimizer_hyperparams, features, labels,
batch_size=10, num_epochs=2):
# 初始化模型
net = nn.Sequential(
nn.Linear(features.shape[-1], 1)
)
loss = nn.MSELoss()
optimizer = optimizer_fn(net.parameters(), **optimizer_hyperparams)
def eval_loss():
return loss(net(features).view(-1), labels).item() / 2
ls = [eval_loss()]
data_iter = torch.utils.data.DataLoader(
torch.utils.data.TensorDataset(features, labels), batch_size, shuffle=True)
for _ in range(num_epochs):
start = time.time()
for batch_i, (X, y) in enumerate(data_iter):
# 除以2是为了和train_ch7保持一致, 因为squared_loss中除了2
l = loss(net(X).view(-1), y) / 2
optimizer.zero_grad()
l.backward()
optimizer.step()
if (batch_i + 1) * batch_size % 100 == 0:
ls.append(eval_loss())
# 打印结果和作图
print('loss: %f, %f sec per epoch' % (ls[-1], time.time() - start))
d2l.set_figsize()
d2l.plt.plot(np.linspace(0, num_epochs, len(ls)), ls)
d2l.plt.xlabel('epoch')
d2l.plt.ylabel('loss')
使用PyTorch重复上一个实验。
train_pytorch_ch7(optim.SGD, {"lr": 0.05}, features, labels, 10)
输出：
loss: 0.245491, 0.044150 sec per epoch
小结
- 小批量随机梯度每次随机均匀采样一个小批量的训练样本来计算梯度。
- 在实际中，（小批量）随机梯度下降的学习率可以在迭代过程中自我衰减。
- 通常，小批量随机梯度在每个迭代周期的耗时介于梯度下降和随机梯度下降的耗时之间。
参考文献
[1] 飞机机翼噪音数据集。https://archive.ics.uci.edu/ml/datasets/Airfoil+Self-Noise
注：除代码外本节与原书此节基本相同，原书传送门
动量法
在7.2节（梯度下降和随机梯度下降）中我们提到，目标函数有关自变量的梯度代表了目标函数在自变量当前位置下降最快的方向。因此，梯度下降也叫作最陡下降（steepest descent）。在每次迭代中，梯度下降根据自变量当前位置，沿着当前位置的梯度更新自变量。然而，如果自变量的迭代方向仅仅取决于自变量当前位置，这可能会带来一些问题。
梯度下降的问题
让我们考虑一个输入和输出分别为二维向量(oldsymbol{x} = [x_1, x_2]^ op)和标量的目标函数(f(oldsymbol{x})=0.1x_1^2+2x_2^2)。与7.2节中不同，这里将(x_1^2)系数从(1)减小到了(0.1)。下面实现基于这个目标函数的梯度下降，并演示使用学习率为(0.4)时自变量的迭代轨迹。
%matplotlib inline
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
import torch
eta = 0.4 # 学习率
def f_2d(x1, x2):
return 0.1 * x1 ** 2 + 2 * x2 ** 2
def gd_2d(x1, x2, s1, s2):
return (x1 - eta * 0.2 * x1, x2 - eta * 4 * x2, 0, 0)
d2l.show_trace_2d(f_2d, d2l.train_2d(gd_2d))
输出：
epoch 20, x1 -0.943467, x2 -0.000073
可以看到，同一位置上，目标函数在竖直方向（(x_2)轴方向）比在水平方向（(x_1)轴方向）的斜率的绝对值更大。因此，给定学习率，梯度下降迭代自变量时会使自变量在竖直方向比在水平方向移动幅度更大。那么，我们需要一个较小的学习率从而避免自变量在竖直方向上越过目标函数最优解。然而，这会造成自变量在水平方向上朝最优解移动变慢。
下面我们试着将学习率调得稍大一点，此时自变量在竖直方向不断越过最优解并逐渐发散。
eta = 0.6
d2l.show_trace_2d(f_2d, d2l.train_2d(gd_2d))
输出：
epoch 20, x1 -0.387814, x2 -1673.365109
动量法
动量法的提出是为了解决梯度下降的上述问题。由于小批量随机梯度下降比梯度下降更为广义，本章后续讨论将沿用7.3节（小批量随机梯度下降）中时间步(t)的小批量随机梯度(oldsymbol{g}_t)的定义。设时间步(t)的自变量为(oldsymbol{x}_t)，学习率为(eta_t)。
在时间步(0)，动量法创建速度变量(oldsymbol{v}_0)，并将其元素初始化成0。在时间步(t>0)，动量法对每次迭代的步骤做如下修改：
其中，动量超参数(gamma)满足(0 leq gamma < 1)。当(gamma=0)时，动量法等价于小批量随机梯度下降。
在解释动量法的数学原理前，让我们先从实验中观察梯度下降在使用动量法后的迭代轨迹。
def momentum_2d(x1, x2, v1, v2):
v1 = gamma * v1 + eta * 0.2 * x1
v2 = gamma * v2 + eta * 4 * x2
return x1 - v1, x2 - v2, v1, v2
eta, gamma = 0.4, 0.5
d2l.show_trace_2d(f_2d, d2l.train_2d(momentum_2d))
输出：
epoch 20, x1 -0.062843, x2 0.001202
可以看到使用较小的学习率(eta=0.4)和动量超参数(gamma=0.5)时，动量法在竖直方向上的移动更加平滑，且在水平方向上更快逼近最优解。下面使用较大的学习率(eta=0.6)，此时自变量也不再发散。
eta = 0.6
d2l.show_trace_2d(f_2d, d2l.train_2d(momentum_2d))
输出：
epoch 20, x1 0.007188, x2 0.002553
指数加权移动平均
为了从数学上理解动量法，让我们先解释一下指数加权移动平均（exponentially weighted moving average）。给定超参数(0 leq gamma < 1)，当前时间步(t)的变量(y_t)是上一时间步(t-1)的变量(y_{t-1})和当前时间步另一变量(x_t)的线性组合：
我们可以对(y_t)展开：
令(n = 1/(1-gamma))，那么 (left(1-1/n ight)^n = gamma^{1/(1-gamma)})。因为
所以当(gamma ightarrow 1)时，(gamma^{1/(1-gamma)}=exp(-1))，如(0.95^{20} approx exp(-1))。如果把(exp(-1))当作一个比较小的数，我们可以在近似中忽略所有含(gamma^{1/(1-gamma)})和比(gamma^{1/(1-gamma)})更高阶的系数的项。例如，当(gamma=0.95)时，
因此，在实际中，我们常常将(y_t)看作是对最近(1/(1-gamma))个时间步的(x_t)值的加权平均。例如，当(gamma = 0.95)时，(y_t)可以被看作对最近20个时间步的(x_t)值的加权平均；当(gamma = 0.9)时，(y_t)可以看作是对最近10个时间步的(x_t)值的加权平均。而且，离当前时间步(t)越近的(x_t)值获得的权重越大（越接近1）。
由指数加权移动平均理解动量法
现在，我们对动量法的速度变量做变形：
由指数加权移动平均的形式可得，速度变量(oldsymbol{v}_t)实际上对序列({eta_{t-i}oldsymbol{g}_{t-i} /(1-gamma):i=0,ldots,1/(1-gamma)-1})做了指数加权移动平均。换句话说，相比于小批量随机梯度下降，动量法在每个时间步的自变量更新量近似于将最近(1/(1-gamma))个时间步的普通更新量（即学习率乘以梯度）做了指数加权移动平均后再除以(1-gamma)。所以，在动量法中，自变量在各个方向上的移动幅度不仅取决当前梯度，还取决于过去的各个梯度在各个方向上是否一致。在本节之前示例的优化问题中，所有梯度在水平方向上为正（向右），而在竖直方向上时正（向上）时负（向下）。这样，我们就可以使用较大的学习率，从而使自变量向最优解更快移动。
从零开始实现
相对于小批量随机梯度下降，动量法需要对每一个自变量维护一个同它一样形状的速度变量，且超参数里多了动量超参数。实现中，我们将速度变量用更广义的状态变量states表示。
features, labels = d2l.get_data_ch7()
def init_momentum_states():
v_w = torch.zeros((features.shape[1], 1), dtype=torch.float32)
v_b = torch.zeros(1, dtype=torch.float32)
return (v_w, v_b)
def sgd_momentum(params, states, hyperparams):
for p, v in zip(params, states):
v.data = hyperparams['momentum'] * v.data + hyperparams['lr'] * p.grad.data
p.data -= v.data
我们先将动量超参数momentum设0.5，这时可以看成是特殊的小批量随机梯度下降：其小批量随机梯度为最近2个时间步的2倍小批量梯度的加权平均。
注：个人认为这里不应该是“加权平均”而应该是“加权和”，因为根据7.4.2.2节分析，加权平均最后除以了(1-gamma)，所以就相当于没有进行平均。
d2l.train_ch7(sgd_momentum, init_momentum_states(),
{'lr': 0.02, 'momentum': 0.5}, features, labels)
输出：
loss: 0.245518, 0.042304 sec per epoch
将动量超参数momentum增大到0.9，这时依然可以看成是特殊的小批量随机梯度下降：其小批量随机梯度为最近10个时间步的10倍小批量梯度的加权平均。我们先保持学习率0.02不变。
同理，这里不应该是“加权平均”而应该是“加权和”。
d2l.train_ch7(sgd_momentum, init_momentum_states(),
{'lr': 0.02, 'momentum': 0.9}, features, labels)
输出：
loss: 0.252046, 0.095708 sec per epoch
可见目标函数值在后期迭代过程中的变化不够平滑。直觉上，10倍小批量梯度比2倍小批量梯度大了5倍，我们可以试着将学习率减小到原来的1/5。此时目标函数值在下降了一段时间后变化更加平滑。
这也印证了刚刚的观点。
d2l.train_ch7(sgd_momentum, init_momentum_states(),
{'lr': 0.004, 'momentum': 0.9}, features, labels)
输出：
loss: 0.242905, 0.073496 sec per epoch
简洁实现
在PyTorch中，只需要通过参数momentum来指定动量超参数即可使用动量法。
d2l.train_pytorch_ch7(torch.optim.SGD, {'lr': 0.004, 'momentum': 0.9},
features, labels)
输出：
loss: 0.253280, 0.060247 sec per epoch
小结
- 动量法使用了指数加权移动平均的思想。它将过去时间步的梯度做了加权平均，且权重按时间步指数衰减。
- 动量法使得相邻时间步的自变量更新在方向上更加一致。
注：除代码外本节与原书此节基本相同，原书传送门
AdaGrad算法
在之前介绍过的优化算法中，目标函数自变量的每一个元素在相同时间步都使用同一个学习率来自我迭代。举个例子，假设目标函数为(f)，自变量为一个二维向量([x_1, x_2]^ op)，该向量中每一个元素在迭代时都使用相同的学习率。例如，在学习率为(eta)的梯度下降中，元素(x_1)和(x_2)都使用相同的学习率(eta)来自我迭代：
在7.4节（动量法）里我们看到当(x_1)和(x_2)的梯度值有较大差别时，需要选择足够小的学习率使得自变量在梯度值较大的维度上不发散。但这样会导致自变量在梯度值较小的维度上迭代过慢。动量法依赖指数加权移动平均使得自变量的更新方向更加一致，从而降低发散的可能。本节我们介绍AdaGrad算法，它根据自变量在每个维度的梯度值的大小来调整各个维度上的学习率，从而避免统一的学习率难以适应所有维度的问题[1]。
算法
AdaGrad算法会使用一个小批量随机梯度(oldsymbol{g}_t)按元素平方的累加变量(oldsymbol{s}_t)。在时间步0，AdaGrad将(oldsymbol{s}_0)中每个元素初始化为0。在时间步(t)，首先将小批量随机梯度(oldsymbol{g}_t)按元素平方后累加到变量(oldsymbol{s}_t)：
其中(odot)是按元素相乘。接着，我们将目标函数自变量中每个元素的学习率通过按元素运算重新调整一下：
其中(eta)是学习率，(epsilon)是为了维持数值稳定性而添加的常数，如(10^{-6})。这里开方、除法和乘法的运算都是按元素运算的。这些按元素运算使得目标函数自变量中每个元素都分别拥有自己的学习率。
特点
需要强调的是，小批量随机梯度按元素平方的累加变量(oldsymbol{s}_t)出现在学习率的分母项中。因此，如果目标函数有关自变量中某个元素的偏导数一直都较大，那么该元素的学习率将下降较快；反之，如果目标函数有关自变量中某个元素的偏导数一直都较小，那么该元素的学习率将下降较慢。然而，由于(oldsymbol{s}_t)一直在累加按元素平方的梯度，自变量中每个元素的学习率在迭代过程中一直在降低（或不变）。所以，当学习率在迭代早期降得较快且当前解依然不佳时，AdaGrad算法在迭代后期由于学习率过小，可能较难找到一个有用的解。
下面我们仍然以目标函数(f(oldsymbol{x})=0.1x_1^2+2x_2^2)为例观察AdaGrad算法对自变量的迭代轨迹。我们实现AdaGrad算法并使用和上一节实验中相同的学习率0.4。可以看到，自变量的迭代轨迹较平滑。但由于(oldsymbol{s}_t)的累加效果使学习率不断衰减，自变量在迭代后期的移动幅度较小。
%matplotlib inline
import math
import torch
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
def adagrad_2d(x1, x2, s1, s2):
g1, g2, eps = 0.2 * x1, 4 * x2, 1e-6 # 前两项为自变量梯度
s1 += g1 ** 2
s2 += g2 ** 2
x1 -= eta / math.sqrt(s1 + eps) * g1
x2 -= eta / math.sqrt(s2 + eps) * g2
return x1, x2, s1, s2
def f_2d(x1, x2):
return 0.1 * x1 ** 2 + 2 * x2 ** 2
eta = 0.4
d2l.show_trace_2d(f_2d, d2l.train_2d(adagrad_2d))
输出：
epoch 20, x1 -2.382563, x2 -0.158591
下面将学习率增大到2。可以看到自变量更为迅速地逼近了最优解。
eta = 2
d2l.show_trace_2d(f_2d, d2l.train_2d(adagrad_2d))
输出：
epoch 20, x1 -0.002295, x2 -0.000000
从零开始实现
同动量法一样，AdaGrad算法需要对每个自变量维护同它一样形状的状态变量。我们根据AdaGrad算法中的公式实现该算法。
features, labels = d2l.get_data_ch7()
def init_adagrad_states():
s_w = torch.zeros((features.shape[1], 1), dtype=torch.float32)
s_b = torch.zeros(1, dtype=torch.float32)
return (s_w, s_b)
def adagrad(params, states, hyperparams):
eps = 1e-6
for p, s in zip(params, states):
s.data += (p.grad.data**2)
p.data -= hyperparams['lr'] * p.grad.data / torch.sqrt(s + eps)
与7.3节（小批量随机梯度下降）中的实验相比，这里使用更大的学习率来训练模型。
d2l.train_ch7(adagrad, init_adagrad_states(), {'lr': 0.1}, features, labels)
输出：
loss: 0.243675, 0.049749 sec per epoch
简洁实现
通过名称为Adagrad的优化器方法，我们便可使用PyTorch提供的AdaGrad算法来训练模型。
d2l.train_pytorch_ch7(torch.optim.Adagrad, {'lr': 0.1}, features, labels)
输出：
loss: 0.243147, 0.040675 sec per epoch
小结
- AdaGrad算法在迭代过程中不断调整学习率，并让目标函数自变量中每个元素都分别拥有自己的学习率。
- 使用AdaGrad算法时，自变量中每个元素的学习率在迭代过程中一直在降低（或不变）。
参考文献
[1] Duchi, J., Hazan, E., & Singer, Y. (2011). Adaptive subgradient methods for online learning and stochastic optimization. Journal of Machine Learning Research, 12(Jul), 2121-2159.
注：除代码外本节与原书此节基本相同，原书传送门
RMSProp算法
我们在7.5节（AdaGrad算法）中提到，因为调整学习率时分母上的变量(oldsymbol{s}_t)一直在累加按元素平方的小批量随机梯度，所以目标函数自变量每个元素的学习率在迭代过程中一直在降低（或不变）。因此，当学习率在迭代早期降得较快且当前解依然不佳时，AdaGrad算法在迭代后期由于学习率过小，可能较难找到一个有用的解。为了解决这一问题，RMSProp算法对AdaGrad算法做了一点小小的修改。该算法源自Coursera上的一门课程，即“机器学习的神经网络” [1]。
算法
我们在7.4节（动量法）里介绍过指数加权移动平均。不同于AdaGrad算法里状态变量(oldsymbol{s}_t)是截至时间步(t)所有小批量随机梯度(oldsymbol{g}_t)按元素平方和，RMSProp算法将这些梯度按元素平方做指数加权移动平均。具体来说，给定超参数(0 leq gamma < 1)，RMSProp算法在时间步(t>0)计算
和AdaGrad算法一样，RMSProp算法将目标函数自变量中每个元素的学习率通过按元素运算重新调整，然后更新自变量
其中(eta)是学习率，(epsilon)是为了维持数值稳定性而添加的常数，如(10^{-6})。因为RMSProp算法的状态变量(oldsymbol{s}_t)是对平方项(oldsymbol{g}_t odot oldsymbol{g}_t)的指数加权移动平均，所以可以看作是最近(1/(1-gamma))个时间步的小批量随机梯度平方项的加权平均。如此一来，自变量每个元素的学习率在迭代过程中就不再一直降低（或不变）。
照例，让我们先观察RMSProp算法对目标函数(f(oldsymbol{x})=0.1x_1^2+2x_2^2)中自变量的迭代轨迹。回忆在7.5节（AdaGrad算法）使用的学习率为0.4的AdaGrad算法，自变量在迭代后期的移动幅度较小。但在同样的学习率下，RMSProp算法可以更快逼近最优解。
%matplotlib inline
import math
import torch
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
def rmsprop_2d(x1, x2, s1, s2):
g1, g2, eps = 0.2 * x1, 4 * x2, 1e-6
s1 = gamma * s1 + (1 - gamma) * g1 ** 2
s2 = gamma * s2 + (1 - gamma) * g2 ** 2
x1 -= eta / math.sqrt(s1 + eps) * g1
x2 -= eta / math.sqrt(s2 + eps) * g2
return x1, x2, s1, s2
def f_2d(x1, x2):
return 0.1 * x1 ** 2 + 2 * x2 ** 2
eta, gamma = 0.4, 0.9
d2l.show_trace_2d(f_2d, d2l.train_2d(rmsprop_2d))
输出：
epoch 20, x1 -0.010599, x2 0.000000
从零开始实现
接下来按照RMSProp算法中的公式实现该算法。
features, labels = d2l.get_data_ch7()
def init_rmsprop_states():
s_w = torch.zeros((features.shape[1], 1), dtype=torch.float32)
s_b = torch.zeros(1, dtype=torch.float32)
return (s_w, s_b)
def rmsprop(params, states, hyperparams):
gamma, eps = hyperparams['gamma'], 1e-6
for p, s in zip(params, states):
s.data = gamma * s.data + (1 - gamma) * (p.grad.data)**2
p.data -= hyperparams['lr'] * p.grad.data / torch.sqrt(s + eps)
我们将初始学习率设为0.01，并将超参数(gamma)设为0.9。此时，变量(oldsymbol{s}_t)可看作是最近(1/(1-0.9) = 10)个时间步的平方项(oldsymbol{g}_t odot oldsymbol{g}_t)的加权平均。
d2l.train_ch7(rmsprop, init_rmsprop_states(), {'lr': 0.01, 'gamma': 0.9},
features, labels)
输出：
loss: 0.243452, 0.049984 sec per epoch
简洁实现
通过名称为RMSprop的优化器方法，我们便可使用PyTorch提供的RMSProp算法来训练模型。注意，超参数(gamma)通过alpha指定。
d2l.train_pytorch_ch7(torch.optim.RMSprop, {'lr': 0.01, 'alpha': 0.9},
features, labels)
输出：
loss: 0.243676, 0.043637 sec per epoch
小结
- RMSProp算法和AdaGrad算法的不同在于，RMSProp算法使用了小批量随机梯度按元素平方的指数加权移动平均来调整学习率。
参考文献
[1] Tieleman, T., & Hinton, G. (2012). Lecture 6.5-rmsprop: Divide the gradient by a running average of its recent magnitude. COURSERA: Neural networks for machine learning, 4(2), 26-31.
注：除代码外本节与原书此节基本相同，原书传送门
AdaDelta算法
除了RMSProp算法以外，另一个常用优化算法AdaDelta算法也针对AdaGrad算法在迭代后期可能较难找到有用解的问题做了改进 [1]。有意思的是，AdaDelta算法没有学习率这一超参数。
算法
AdaDelta算法也像RMSProp算法一样，使用了小批量随机梯度(oldsymbol{g}_t)按元素平方的指数加权移动平均变量(oldsymbol{s}_t)。在时间步0，它的所有元素被初始化为0。给定超参数(0 leq ho < 1)（对应RMSProp算法中的(gamma)），在时间步(t>0)，同RMSProp算法一样计算
与RMSProp算法不同的是，AdaDelta算法还维护一个额外的状态变量(Deltaoldsymbol{x}_t)，其元素同样在时间步0时被初始化为0。我们使用(Deltaoldsymbol{x}_{t-1})来计算自变量的变化量：
其中(epsilon)是为了维持数值稳定性而添加的常数，如(10^{-5})。接着更新自变量：
最后，我们使用(Deltaoldsymbol{x}_t)来记录自变量变化量(oldsymbol{g}'_t)按元素平方的指数加权移动平均：
可以看到，如不考虑(epsilon)的影响，AdaDelta算法跟RMSProp算法的不同之处在于使用(sqrt{Deltaoldsymbol{x}_{t-1}})来替代学习率(eta)。
从零开始实现
AdaDelta算法需要对每个自变量维护两个状态变量，即(oldsymbol{s}_t)和(Deltaoldsymbol{x}_t)。我们按AdaDelta算法中的公式实现该算法。
%matplotlib inline
import torch
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
features, labels = d2l.get_data_ch7()
def init_adadelta_states():
s_w, s_b = torch.zeros((features.shape[1], 1), dtype=torch.float32), torch.zeros(1, dtype=torch.float32)
delta_w, delta_b = torch.zeros((features.shape[1], 1), dtype=torch.float32), torch.zeros(1, dtype=torch.float32)
return ((s_w, delta_w), (s_b, delta_b))
def adadelta(params, states, hyperparams):
rho, eps = hyperparams['rho'], 1e-5
for p, (s, delta) in zip(params, states):
s[:] = rho * s + (1 - rho) * (p.grad.data**2)
g = p.grad.data * torch.sqrt((delta + eps) / (s + eps))
p.data -= g
delta[:] = rho * delta + (1 - rho) * g * g
使用超参数( ho=0.9)来训练模型。
d2l.train_ch7(adadelta, init_adadelta_states(), {'rho': 0.9}, features, labels)
输出：
loss: 0.243728, 0.062991 sec per epoch
简洁实现
通过名称为Adadelta的优化器方法，我们便可使用PyTorch提供的AdaDelta算法。它的超参数可以通过rho来指定。
d2l.train_pytorch_ch7(torch.optim.Adadelta, {'rho': 0.9}, features, labels)
输出：
loss: 0.242104, 0.047702 sec per epoch
小结
- AdaDelta算法没有学习率超参数，它通过使用有关自变量更新量平方的指数加权移动平均的项来替代RMSProp算法中的学习率。
参考文献
[1] Zeiler, M. D. (2012). ADADELTA: an adaptive learning rate method. arXiv preprint arXiv:1212.5701.
注：除代码外本节与原书此节基本相同，原书传送门
Adam算法
Adam算法在RMSProp算法基础上对小批量随机梯度也做了指数加权移动平均 [1]。下面我们来介绍这个算法。
所以Adam算法可以看做是RMSProp算法与动量法的结合。
算法
Adam算法使用了动量变量(oldsymbol{v}_t)和RMSProp算法中小批量随机梯度按元素平方的指数加权移动平均变量(oldsymbol{s}_t)，并在时间步0将它们中每个元素初始化为0。给定超参数(0 leq eta_1 < 1)（算法作者建议设为0.9），时间步(t)的动量变量(oldsymbol{v}_t)即小批量随机梯度(oldsymbol{g}_t)的指数加权移动平均：
和RMSProp算法中一样，给定超参数(0 leq eta_2 < 1)（算法作者建议设为0.999），
将小批量随机梯度按元素平方后的项(oldsymbol{g}_t odot oldsymbol{g}_t)做指数加权移动平均得到(oldsymbol{s}_t)：
由于我们将(oldsymbol{v}_0)和(oldsymbol{s}_0)中的元素都初始化为0，
在时间步(t)我们得到(oldsymbol{v}_t = (1-eta_1) sum_{i=1}^t eta_1^{t-i} oldsymbol{g}_i)。将过去各时间步小批量随机梯度的权值相加，得到 ((1-eta_1) sum_{i=1}^t eta_1^{t-i} = 1 - eta_1^t)。需要注意的是，当(t)较小时，过去各时间步小批量随机梯度权值之和会较小。例如，当(eta_1 = 0.9)时，(oldsymbol{v}_1 = 0.1oldsymbol{g}_1)。为了消除这样的影响，对于任意时间步(t)，我们可以将(oldsymbol{v}_t)再除以(1 - eta_1^t)，从而使过去各时间步小批量随机梯度权值之和为1。这也叫作偏差修正。在Adam算法中，我们对变量(oldsymbol{v}_t)和(oldsymbol{s}_t)均作偏差修正：
接下来，Adam算法使用以上偏差修正后的变量(hat{oldsymbol{v}}_t)和(hat{oldsymbol{s}}_t)，将模型参数中每个元素的学习率通过按元素运算重新调整：
其中(eta)是学习率，(epsilon)是为了维持数值稳定性而添加的常数，如(10^{-8})。和AdaGrad算法、RMSProp算法以及AdaDelta算法一样，目标函数自变量中每个元素都分别拥有自己的学习率。最后，使用(oldsymbol{g}_t')迭代自变量：
从零开始实现
我们按照Adam算法中的公式实现该算法。其中时间步(t)通过hyperparams参数传入adam函数。
%matplotlib inline
import torch
import sys
sys.path.append("..")
import d2lzh_pytorch as d2l
features, labels = d2l.get_data_ch7()
def init_adam_states():
v_w, v_b = torch.zeros((features.shape[1], 1), dtype=torch.float32), torch.zeros(1, dtype=torch.float32)
s_w, s_b = torch.zeros((features.shape[1], 1), dtype=torch.float32), torch.zeros(1, dtype=torch.float32)
return ((v_w, s_w), (v_b, s_b))
def adam(params, states, hyperparams):
beta1, beta2, eps = 0.9, 0.999, 1e-6
for p, (v, s) in zip(params, states):
v[:] = beta1 * v + (1 - beta1) * p.grad.data
s[:] = beta2 * s + (1 - beta2) * p.grad.data**2
v_bias_corr = v / (1 - beta1 ** hyperparams['t'])
s_bias_corr = s / (1 - beta2 ** hyperparams['t'])
p.data -= hyperparams['lr'] * v_bias_corr / (torch.sqrt(s_bias_corr) + eps)
hyperparams['t'] += 1
使用学习率为0.01的Adam算法来训练模型。
d2l.train_ch7(adam, init_adam_states(), {'lr': 0.01, 't': 1}, features, labels)
输出：
loss: 0.245370, 0.065155 sec per epoch
简洁实现
通过名称为“Adam”的优化器实例，我们便可使用PyTorch提供的Adam算法。
d2l.train_pytorch_ch7(torch.optim.Adam, {'lr': 0.01}, features, labels)
输出：
loss: 0.242066, 0.056867 sec per epoch
小结
- Adam算法在RMSProp算法的基础上对小批量随机梯度也做了指数加权移动平均。
- Adam算法使用了偏差修正。
参考文献
[1] Kingma, D. P., & Ba, J. (2014). Adam: A method for stochastic optimization. arXiv preprint arXiv:1412.6980.
注：除代码外本节与原书此节基本相同，原书传送门