• 机器学习-简单线性回归(一)


    一、预备知识介绍

         为什么需要统计量?

         统计量:描述数据特征

        1. 集中趋势衡量

               1.1 均值(平均数,平均值)(mean)

                            

                   1.2 中位数(median):将数据中的各个数值按照大小顺序排列,居于中间位置的变量。

                      当n为奇数时,直接取位置处于中间的变量

                      当n为偶数时,取中间两个量的平均值

                1.3 众数(mode):数据中出现次数最多的数

         2.离散程度衡量 

            2.1 方差(variance)

                       

             2.2 标准差(standard deviation)

                   

    二、介绍:回归(regression) 分类(classification)

           回归: Y变量为连续数值型(continuous numerical variable)

                    如:房价、人数、降雨量

           分类: Y变量为类别型(categorical ariable)

                    如:颜色类别、电脑品牌、有无信誉

    三、简单线性回归(Simple Linear Regression)

             很多做决定过程通常是根据两个或者多个变量之间的关系

             回归分析(regression analysis)用来建立方程模拟两个或者多个变量之间如何关联

             被预测的变量叫做因变量(dependent variable),y 输出(output)

             被用来进行预测的变量叫做自变量(independent variable),x 输入(input)

    四、简单线性回归介绍

            简单线性回归包含一个自变量(x)和一个因变量(y)

            这两个变量的关系通过一条直线来模拟

            如果包含两个以上的自变量,则成为多元回归分析(multiple regression)

    五、简单线性回归模型

            被用来描述因变量(y)和自变量(x)以及偏差(error)之间关系的方程叫做回归模型

            简单线性回归模型

                               

    其中:为参数,为偏差。

    六、简单线性回归方程(模型求期望)

                     

                 这个方程对应的图像是一条直线,称为回归线。

                其中:是回归线的截距

                        是回归线的斜率

                       是在一个给定x值下y的期望值(均值)

                注意:这里就没有了,因为服从正态分布,期望为0

    七、正向线性关系

     八、负向线性关系

     九、无关系

    十、估计的简单线性回归方程

                                    

           这个方程叫做估计线性方程(estimated regression line)

            其中:是估计线性方程的截距

                       是估计线性方程的斜率

                       是在自变量x等于一个给定值的时候,y的估计值

    十一、线性回归流程

     十二、关于偏差的假定

                      是一个随机的变量,均值为0

                      方差对于所有的自变量x是一样的

                      值独立的

                      满足正态分布

  • 相关阅读:
    Spring发展历程总结
    杂说
    说说Java生态圈的那些事儿
    你知道什么是Grunt么?
    jquery常见知识点 总结
    优化JavaScripe 提升首页加载速度的几种方案解析
    final static 深度解析
    JS的预编译和执行顺序 详析(及全局与局部变量)
    swipe.js 2.0 轻量级框架实现mobile web 左右滑动
    JS中跨域和沙箱的解析
  • 原文地址:https://www.cnblogs.com/lyywj170403/p/10452159.html
Copyright © 2020-2023  润新知