菜鸟之路——机器学习之线性回归个人理解及Python实现

这一节很简单，都是高中讲过的东西

简单线性回归：y=b0+b1x+ε。b1=（Σ（xi-x^–）（y_i-y^–））/Σ（xi-x^–）ˆ2       b₀=y^--b₁x^-    其中ε取 为均值为0的正态分布

多元线性回归差不多

我自己写了程序，练习一下面向对象编程

import numpy as np

class SimpleLinearRegression:
    def __init__(self):
        self.b0=0
        self.b1=0

    def fit(self,X,Y):
        n=len(X)
        dinominator=0   #分母
        numeraor=0      #分子
        for i in range(0,n):
            numeraor+=(X[i]-np.mean(X))*(Y[i]-np.mean(Y))
            dinominator+=np.square((X[i]-np.mean(X)))
        self.b1=numeraor/float(dinominator)
        self.b0=np.mean(Y)-self.b1*np.mean(X)
        print("intercept:",self.b0,"   slope:",self.b1)
        print("y=",self.b0,"+",self.b1,"x")
    def predict(self,X):
        return self.b0+self.b1*X


X=[1,3,2,1,3]
Y=[14,24,18,17,27]

SLR=SimpleLinearRegression()
SLR.fit(X,Y)
Y_predict=SLR.predict(6)
print(Y_predict)

运行结果：

intercept: 10.0 slope: 5.0
y= 10.0 + 5.0 x
40.0

还有个多元线性回归的

from sklearn import datasets,linear_model

data=[[100,4,9.4],[50,3,4.8],[100,4,8.9],[50,2,4.2],[80,2,6.2],[75,3,7.4],[65,4,6],[90,3,7.6],[90,2,6.1]]
data=np.array(data)
print(data)

X=data[:,:2]
Y=data[:,-1]
#print(X,"
",Y)

regr=linear_model.LinearRegression()

regr.fit(X,Y)

print("coefficients:",regr.coef_)
print("intercept",regr.intercept_)

Xpred=[[102,6]]
Ypred=regr.predict(Xpred)
print(Xpred,"Ypred:",Ypred)

这都太简单了，不多解释了。

一个知识点：

如果自变量有离散数据的话，就用分类器中用过的方法，有几类就转化为几组数据，是则为1，否则为0

今天还系统的入门了一下numpy，和pandas。等有时间了把numpy，pandas，还有matplotlib都系统的学一下。很有用的。