一、机器学习算法分类:
监督学习：提供数据和数据分类标签。——分类、回归
非监督学习：只提供数据，不提供标签。
半监督学习
强化学习：尝试各种手段，自己去适应环境和规则。总结经验利用反馈，不断提高算法质量
遗传算法：淘汰弱者，留下强者，进行繁衍和变异穿产生更好的算法。
二、选择机器学习算法和数据集
sklearn中有很多真实的数据集可以引入，也可以根据自己的需求自动生成多种数据集。对于数据集可以对其进行归一化处理。
sklearn中的有着多种多样的算法，每一种算法都有其适用的场合、不同的属性和功能，按需选择。
三、评价机器学习算法：
1、算法效果不好：在训练过程中，可能因为数据集问题，学习效率，参数问题可能导致算法效果不好。
2、评价学习算法：将数据集分为训练集和测试集，根据算法在测试集上的表现评价算法，随着训练时间变长，网络层数变多，误差变小，精确度变高，但是变化的速度都是减缓的。
不同的模型有着是个自己的不同的评分方法：
R2-score：衡量回归问题的精度。最大精度也是100%
F1-score：用于测量不均衡数据的精度。
3、交叉验证用于调参（手动写循环）：用于算法的调参（不同的参数也就是不同的模型）。
用交叉验证的方法进行调参或者模型选择时不需要手动划分用于k折验证的数据集，只需要将X和Y，还有k作为参数传进去即可：
#for regreesion losss=-cross_val_score(knn,X,y,cv=10,scoring=’mean_squared_error’) #for classification scores=cross_val_score(knn,X,y,cv=10,scoring=’accuracy’)
交叉验证时，对于模型的评分，分类时用精确度accuracy来衡量模型表现，回归时用损失值mean_squard_error来衡量模型表现。
losss和 scores是两个数组，数组的长度为交叉验证的分割份数。
可使用scores.mean()来得到交叉验证的平均分数。
改变Knn中的参数值，根据交叉验证的得分高低来选择合适的模型参数。
4、learn_curve曲线用于过拟合问题：横轴数据量，纵轴模型得分
过拟合：对于样本的过度学习，过分关注样本的细节。
解决过拟合：L1/L2 regularization，dropout（留出法）
为了找出欠拟合和过拟合的节点我们可以绘制learn_curve曲线，这是一个根据数据量不同显示算法性能的图。显示了过拟合问题的两种误差：蓝色是traindata的算法表现，红色是testdata的算法表现。因为模型是基于traindata进行训练的，所以其在traindata上的表现更好一些。
train_sizes,train_loss,test_loss=learning_curve( SVC(gramma=0.001), X, y, Cv=10. Scoring=’mean_squard_error’, Train_sizes=[0.1,0.25,0.5,0.75,1]) Train_loss_mean=-np.mean(train_loss,axis=1) #10次交叉验证结果取平均 Test_loss_mean=-np.mean(test_loss,axis=1)
train_loss,test_loss是二维数组，长度为5，即为Train_sizes的步数
train_loss[0]是一个数组，存放0.1数据量时10个交叉验证的结果。
如上图所示，黄色警告处即为欠拟合和过拟合的分界点处。
5、使用交叉验证validation_curve自动调参：横坐标是模型参数，纵坐标是模型交叉验证得分
param_range = np.logspace(-6, -2.3, 5) train_loss, test_loss = validation_curve( SVC(), X, y, param_name='gamma', param_range=param_range, cv=10, scoring='mean_squared_error') train_loss_mean = -np.mean(train_loss, axis=1) test_loss_mean = -np.mean(test_loss, axis=1) plt.plot(param_range, train_loss_mean, 'o-', color="r", label="Training") plt.plot(param_range, test_loss_mean, 'o-', color="g", label="Cross-validation") plt.xlabel("gamma") plt.ylabel("Loss") plt.legend(loc="best") plt.show()
train_loss,test_loss是二维数组，长度为参数的取值个数
train_loss[0]是一个数组，存放参数为某一个值时10个交叉验证的结果。
以模型参数为横坐标，以模型交叉验证得分为纵坐标绘图，最低点即为最佳参数。