• 2.机器学习相关数据基础


    1.本周视频学习内容:https://www.bilibili.com/video/BV1Tb411H7uC?p=2

    1)P2 概率论与贝叶斯先验

    2)P3 矩阵和线性代数

    机器学习是一门多领域交叉学科,涉及较多的数学知识,本节课知识之前都有学过,这次根据重点重新梳理一遍,一定要多加重视。通过观看视频,大家对课程的数学基础部分加深印象。

    建议大家边看边做笔记,记录要点及所在时间点,以便有必要的时候回看。学习笔记也是作业的一部分。

    2.作业要求:

    1)贴上视频学习笔记,要求真实,不要抄袭,可以手写拍照。

    概率论与贝叶斯先验

    本福特定律,又称第一数字定律,指在实际生活中,以1位首位数字出现的概率约为30.1%,比我们认为的平均概率要多很多。

             

    离散型

    两点型:E(X)=1xp+0xq=p;D(X)=E(X2)-[E(X)]2=12xp+02xq-p2=p-p2=pq

             

     连续型

      均匀分布

             

       

     

     

          

     

    协方差为0则不相关,独立的话协方差一定为0,但是协方差为0时不一定独立

    协方差矩阵是一个对称阵

          

    矩阵和线型代数

    SVD——奇异值分解

     

    矩阵

     

     

     线性相关、线性无关

     

    特征值和特征向量

     

     

    矩阵求导

        

    2)用自己的话总结“梯度”,“梯度下降”和“贝叶斯定理”,可以word编辑,可做思维导图,可以手写拍照,要求言简意赅、排版整洁。

     第一节视频也有讲梯度,但是不太理解,后来找到了自己能理解的一个视频:https://www.bilibili.com/video/BV154411o7hE?p=27

    (一)梯度是一个向量,通过求函数的偏导数可以求出,一个函数给定一个点,这个点沿任何方向都有方向导数,最大的那个方向导数的就是梯度。

    (二)梯度下降就像是需要下山,从山顶到山底,想要以最快的速度下山,每一步有各个不同的方向可以走。

    假设上山的时候有最快的上山方向(“梯度”),那么最快速度下山就可以取最快上山的反方向(“负梯度”),从而快速到山底(最小值)。

     

     (三)贝叶斯定理

     贝叶斯定理:贝叶斯定理是关于随机事件A和B的条件概率(或边缘概率)的一则定理。其中P(A|B)是在B发生的情况下A发生的可能性。

    是由果求因的。

    假设已知在两个箱子里分别五个球,箱子1有白球1个黑球4个,箱子2有白球2个,黑球3个,求抽到白球的概率,那么很好求,就是P(白)=0.3

    那么贝叶斯定理就是,现在你抽到了一个白球,你并不知道白球来自哪个箱子,现在就需要你在给定的结果下,追溯原因找白球可能在的箱子。

    公式:  

    P(B|A)=后验概率

    P(B)=是B先验概率

    P(A|B)=可能性函数,使得预估概率更加接近真实值

    P(A)=是A的先验概率

  • 相关阅读:
    最易懂的语音自动增益原理介绍
    共振峰估计基础
    语音基音周期估计基础
    语音信号临界带宽的概念解释
    语音信号的时域维纳滤波器原理简介
    几种改进的谱减算法简介
    谱减算法的缺点和过减因子、谱下限的关系
    关于语音分帧时有重叠部分的原因分析
    x264命令参数与代码中变量的对应关系
    笔记--语音信号的预加重
  • 原文地址:https://www.cnblogs.com/cyxxixi/p/12686119.html
Copyright © 2020-2023  润新知