runxinzhi.com
首页
百度搜索
JS散度
JS散度
(Jensen-Shannon divergence)
JS散度解决了KL不对称的问题,JS是对称的。
很明显,如果P1,P2完全相同,那么JS =0, 如果完全不相同,那么就是1.
JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1].
P,Q和第三个分布进行KL计算(第三个分布:(P+Q)/2 )
JS散度是有界的:
但是KL和JS散度来度量时候有一个问题:
如果两个分配P,Q离得很远,完全没有重叠的时候,那么KL值是没有意义的,而JS值是一个常数。这在学习算法中是比较致命的,这就意味这这一点的梯度为0。梯度消失了。
相关阅读:
OC2_数组操作
OC1_数组创建
OC6_字符串练习
Python3学习笔记12-定义函数及调用
Python3学习笔记11-循环语句
Python3学习笔记10-条件控制
Python3学习笔记09-字典
Python3学习笔记08-tuple
Python3学习笔记07-List
Python3学习笔记05-数字
原文地址:https://www.cnblogs.com/smuxiaolei/p/7400923.html
最新文章
systemctl启动方式:以nginx为例
php迭代器:Iterator和IteratorAggregate
session详解
【CSS】盒模型+选择器(你选择的要操作的对象)
【git】常用命令
【git】借助github学习成果
请给出一个左侧定宽右侧自适应的HTML结构及样式
前端面试题
【git】学习路径失败了
[mac git 服务器端]
热门文章
mac下tomcat的安装与配置
mac上安装gradle
元类metaClass
OC1_汉字拼音转换 练习
OC3_字典
OC班级类
OC1_银行账户类
OC2_分数类
OC4_可变数组
OC3_字符串分割
Copyright © 2020-2023
润新知