一、什么是回归?
孩子的身高是否与父母有关?
实际上,父母和孩子的身高是受到回归效应影响的。在时间纵轴上受影响、具有随机性的事物,无不遵循这一规律。
只要数据足够大,人类的身高或者智商,都有趋于平均值的回归性。
1.1 回归与函数逼近
function approximation or regression
P.S. Reinforcement learning 以及 Regression
均是被误用的名词,但约定俗成沿用至今。so,请理解真正含义。
1.2 多项式的阶数
联想之傅里叶级数:
低阶决定形状,高阶决定细节
回到多项式的阶数,高阶多项式可利用自由度将误差降低。
but,过高的阶数可能导致模型过拟合
如图,高阶拟合可降低误差
如图 ,误差与拟合多项式阶数的关系
二、多项式回归
多项式求系数——Review Linear Algebra
求系数——矩阵运算