定义
标准化(Standardization):将数据按照比例进行缩放,不改变数据的原始分布,使得不同的变量经过标准化处理后可以有平等分析和比较的基础。缩放后的数据均值为0,方差为1。但并不是标准正态分布。
归一化(Normalization):中心化和标准化基本一样,都是要把数据缩放到某个范围里。归一化通常有两种做法:
min-max 归一化的公式为:
mean 归一化(有的地方也叫中心化)的公式为:
正态化:改变数据的原始分布,使其服从正态分布。通常采用的方法有取对数,开平方根,取倒数,开平方,取指数等等,使得不对称分布的数据(偏态数据)呈现(或近似)正态分布。要这么做的原因在于:有些机器学习方法,比如线性回归模型就默认数据是正态分布。
https://blog.csdn.net/lcmssd/article/details/80179102?utm_source=blogxgwz0
https://blog.csdn.net/weixin_36604953/article/details/102652160
关于到底是先标准化/归一化还是先划分数据集(前者归一化的时候同时考虑了测试集和训练集,如均值就与测试集有关;后者划分过后均值只和训练集有关),个人认为应该先划分数据集,对划分出来的训练集标准化后,再用相同的标准化公式(其中均值方差来自于训练集)对测试集进行标准化,保证测试集在维度上与训练集保持一致。代码如下:
from sklearn import preprocessing scaler = preprocessing.StandardScaler().fit(X_train)#通过训练集获得归一化公式 X_train_transformed = scaler.transform(X_train)#对训练集进行归一化 X_test_transformed = scaler.transform(X_test)#对测试集进行归一化