目的:
L1和L2正则都可以解决过拟合
方法:
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L1正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
图像:
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。
L1和L2正则都可以解决过拟合
L1正则:向量中各个元素绝对值的和,适用于稀疏特征。原理:直接删除异常特征,解决过拟合。
缺点:绝对值不可求导,需要特殊处理。
L1正则:向量中各元素平方和求平方根,使用场景更多,计算方便。原理:将异常特征平均化。
L1是蓝色的线,L2是红色的线,L1的分布对极端值更能容忍。