机器学习训练模型的一般错误

前言

在我们构建完机器学习模型，经常会遇到训练得到模型无法正确预测，这之后我们往往会采取下面的一些方案：

• 增加训练数据
• 减少特征的个数
• 增加更多的特征
• 增加多项式特征（X1*X2 ...）
• 增大lambda的值
• 减小lambda的值

若是不了解模型具体的问题所在，而根据随便拿出一个方案去试错，这往往都是既费力又费心，往往个把月过去了仍然在进行模型的调试。

CV 数据集 [数据集处理]

将一个数据集先按下面进行划分：

• Training set: 60%
• Cross validation set: 20%
• Test set: 20%

计算模型误差 [误差计算]

1.线性回归，直接使用代价函数即可，如下：

for i = 1:m
    %依次递增的数据量进行训练模型
    theta = trainLinearReg(X(1:i,:), y(1:i), lambda);
    %train数据集的测试，使用时去除lambda
    error_train(i) =linearRegCostFunction(X(1:i,:), y(1:i), theta, 0);
    %cv数据集的测试
    error_val(i) = linearRegCostFunction(Xval, yval, theta, 0);
end

2.logistic回归，引出0-1错分率：

过拟合和欠拟合 [误差分析]

欠拟合：高偏差，Jcv近似于Jtrain。
过拟合：高方差，Jcv远大于Jtrain。
这2个问题是机器学习中最经典的错误情况，很多现象也是由它们一手操办的，来看看下面的3种情况：

---

样本

根据上面误差计算部分得来的Training set和cv set得到相应图片

---

High bias：Jcv与Jtrain非常接近，加入过多样本，对模型的优化没作用

---

High variance：Jcv远大于Jtrain，增加样本，可以对模型进行优化

---

多项式特征

多项式特征的选择的多少往往也会给我们带来很大的麻烦，过多的多项式特征会使模型过拟合，而过少的多项式特征会使模型欠拟合。
那么我们该如何进行多项式的选择，下面便引入解决方案：

1. 使用training set训练每一个多项式，得出相应的theta值。
2. 使用cv set获得误差最小的多项式。
3. 最后使用test set对多项式进行评估。

---

lambda

正规化的引入，就是为了防止过拟合，而lambda对拟合程度有着很大影响。若是没有lambda则会出现过拟合现象；而若是lambda过大则会出现欠拟合现象。

那怎么选择一个较好的lambda呢？
方法类似于多项式特征的选取，稍有不同的就是自己要定义lambda集合。

测试代码段

for i = 1:length(lambda_vec)
        lambda = lambda_vec(i);
        theta = trainLinearReg(X, y, lambda);
        %评估时切记不可在cv set和test set中加入lambda值
        error_train(i) = linearRegCostFunction(X, y, theta, 0);
        error_val(i) = linearRegCostFunction(Xval, yval, theta, 0);
end

测试结果：

学习曲线

很多情况下因为特征很多，我们往往很难将数据展现出来，而可视化的数据往往给我们的分析带来了很大的帮助；learning curve的绘制无疑是一大助手，learning curve通常是由training set和cv set的误差绘制出来的，中间最重要的就是将training set使用递增的方式进行训练，而cv set则是全部进行使用。如【计算模型误差的代码部分】。