• 深度学习第一课


      什么是深度学习?

    AI→ML→DL

    人工智能包括机器学习包括深度学习,深度学习起源于人工神经网络的研究

    或者ML与DL是部分包含的关系

    ML适合处理结构化数据,DL适合处理非结构化数据

      什么是结构化数据,非结构化数据?

    行与列之间有关系的叫结构化数据;没有关系的例如图片视频文本等,就是非结构化数据

    深度学习应用领域广泛,比如计算机视觉,图像识别分类,自然语言处理

    机器学习:通过已知的输入和输出进行训练,学习规则,得到模型函数映射,达到处理未知的输入

    实际上是计算权重值的过程

      神经网络中的感知器算法类似生物中的神经元

    接收输入,权重处理后,是否达到刺激(阈值),决定是否激活该神经元,决定是否传递数据

    感知器是神经网络起源的算法,具有指导意义

      实现二分类

    输入=》向量[x1, x2, x3, x4]=>样本

    权重  向量[w1, w2, w3, w4]

    净输入,z=∑Wi Xi=w1*x1+w2*x2+w3*x3+w4*x4

    与阈值θ相比,z>=θ或z<θ,得到转换结果,从而实现二分类

    相比的这个转换函数用阶跃函数,称为激励函数(激活函数)

      将θ调整为0

    z = w1*x1+w2*x2+w3*x3+w4*x4 -θ

    设b=-θ作为一个偏置

    z = w1*x1+w2*x2+w3*x3+w4*x4 + b* x0

    b作为w0,x0==1

    z = w0*x0+w1*x1+w2*x2+w3*x3+w4*x4

    增加了一个w0*x0

      权重更新

    感知器会根据输入样本数据不断更新权重,更新公式为

    wj = wj + △wj             #wj = wj + del wj

    △wj = η学习率*(y真实值-y预测值)*xj  #del wj = eta*(y-y_hat)*xj

    η为学习率决定更新幅度

    对于del wj,如果预测值与真实值相同,就是del wj为0,

    如果预测错误比真实值低,del wj为正,那么就会增加这个权重,反之减少

      更新规则

      实现步骤

    1.对权重进行初始化,设置为0或很小

    2.对训练集中每一个样本进行迭代,计算输出值(预测值)y

    3.根据输出值y与真实值y,更新权重

    4.循环步骤2,直到达到指定的次数(或完全收敛)

     说明:如果两个类别线性可分,则感知器一定会收敛。如果线性不可分,则不一定会收敛。

    程序示例

    第二节课

  • 相关阅读:
    Unity 3(一):简介与示例
    MongoDB以Windows Service运行
    动态SQL中变量赋值
    网站发布IIS后堆栈追踪无法获取出错的行号
    GridView Postback后出错Operation is not valid due to the current state of the object.
    Visual Studio 2010 SP1 在线安装后,找到缓存在本地的临时文件以便下次离线安装
    SQL Server 问题之 排序规则(collation)冲突
    IIS 问题集锦
    linux下安装mysql(ubuntu0.16.04.1)
    apt-get update 系列作用
  • 原文地址:https://www.cnblogs.com/jdzhang1995/p/10626004.html
Copyright © 2020-2023  润新知