过拟合的处理

处理过拟合的方法：

1、去噪（数据清洗）；

2、增加训练数据集（收集或构造新数据）

3、正则化（L1、L2）

4、减少特征数目

5、对于决策树可以采用剪枝法

6、采用组合分类器（装袋或随机森林）

7、选择合适的迭代停止条件

8、迭代过程中进行权值衰减（以某个小因子降低每个权值）