介绍
径向基函数网络(Radial Basis Function,RBF)是由三层构成的前向网络:第一层为输入层,节点数等于输入的维数;第二层为隐含层,节点个数视问题复杂度而定;第三层为输出层,节点数等于输出数据的维度。RBF的隐含层是非线性的,采用径向基函数作为基函数,从而将输入向量空间转换到隐含层空间,使原来的线性不可分问题变为线性可分,输出层则是线性的。
径向基神经网络可以分为正则化网络和广义网络,在实践中被广泛应用的是广义网络。
正则化网络的隐层节点数等于训练样本数,因此如果训练样本个数N过大,网络的计算量将是惊人的。广义网络隐层选择I个节点,(I<N)
径向基函数
A radial basis function (RBF) is a real-valued function whose value depends only on the distance from the origin, so that; or alternatively on the distance from some other point , called a center, so that .
Any function that satisfies the property is a radial function. The norm is usually Euclidean distance, although other distance functions are also possible.
由径向基函数的定义可知,函数值仅与自变量的范数有关。范数是对函数、向量和矩阵定义的一种度量形式,只要一种度量形式同时满足以下三个条件,即可成为一种范数:
一个长为n的向量X的p-范数定义为:
概率神经网络
概率神经网络(Probabilistic Neutral Networks,PNN)可以视为一种径向基神经网络,杂RBF网络的基础上,融合了密度函数估计和贝叶斯决策理论。