• 径向基神经网络


    预备知识:

    cover定理:

    在复杂的模式分类问题中,将数据映射到高维空间比映射到低维空间更可能线性可分

    径向基函数:

    空间中的任意点到某一中心之间的欧式距离(也可以是其他的距离函数)的单调函数

    径向基神经网络是由一个三层的结构组成,包括输入层,隐含层,输出层,隐含层的激活函数一般是非线性的径向基函数,输出层是线性函数或hardlim函数

    普通径向基神经网络中,隐含层神经元的个数是样本的数量,径向基函数的中心是对应的样本,所求插值函数要求通过所有的样本点,即

                         F(Xp)=dp p表示样本个数,F是插值函数

    每个样本对应一个基函数,即Φ(||X-Xp||)

    所以其插值函数为:

                        F(x)=∑p=1 to PWpΦp(||X-Xp||)

    样本的维数一般小于隐含层神经元的个数,通俗来说,输入层到隐含层实现升维,隐含层到输出层实现分类或插值拟合

    广义的径向基神经网络不要求隐含层的神经元数和样本数相同,神经元数小于样本数,基函数的中心由K-means决定,下面开始径向基神经网络的算法描述:

    1 输入层到隐含层的权值矩阵固定为单位矩阵

    2 由K-means算法选取基函数的中心

    3 计算方差:σ

                σ=cmax/sqrt(2h) cmax表示中心之间的最大距离,h表示隐含层的神经元数

    4 计算隐含层到输出层的权值W,由LMS算法可以直接求得

                

  • 相关阅读:
    pgfplots画二维图真的很方便,多例比较
    LaTeX技巧206:使用gather输入多行公式的技巧
    LaTeX技巧205:使用split输入多行公式技巧
    LaTeX技巧207:使用align环境输入多行公式的技巧
    LaTeX技巧24:LaTeX常用命令集锦
    CTEX
    Latex常用指令学习
    LATEX数学公式基本语法
    LaTeX使用技巧
    C 命令行参数
  • 原文地址:https://www.cnblogs.com/semen/p/6836361.html
Copyright © 2020-2023  润新知