runxinzhi.com
首页
百度搜索
机器学习之梯度下降法
梯度下降法
既然在变量空间的某一点处,函数沿梯度方向具有最大的变化率,那么在优化目标函数的时候,自然是沿着
负梯度方向
去减小函数值,以此达到我们的优化目标。
如何沿着负梯度方向减小函数值呢?既然梯度是偏导数的集合,如下:
同时梯度和偏导数都是向量,那么参考向量运算法则,我们在每个变量轴上减小对应变量值即可,梯度下降法可以描述如下:
以上就是梯度下降法的由来,大部分的机器学习任务,都可以利用Gradient Descent来进行优化。
相关阅读:
2015 年最受 Linux 爱好者欢迎的软硬件大盘点
Java 9终于要包含Jigsaw项目了
Linux 容器技术史话:从 chroot 到未来
开发者最常用的 8 款 Sublime Text 3 插件
60,000毫秒内对Linux的性能诊断效的方法
bzoj 2595 [Wc2008]游览计划(斯坦纳树)
bzoj 3997 [TJOI2015]组合数学(DP)
bzoj 1014 [JSOI2008]火星人prefix(splay+hash)
bzoj 1090 [SCOI2003]字符串折叠(区间DP)
bzoj 1537 [POI2005]Aut- The Bus(DP+BIT)
原文地址:https://www.cnblogs.com/gylhaut/p/9382534.html
最新文章
关于大型网站技术演进的思考(三)---- 存储的瓶颈(3)
基于 Nginx XSendfile + SpringMVC 进行文件下载
为 Elasticsearch 添加中文分词,对比分词器效果
游戏服务端架构发展史
ZooKeeper 运维经验
C++中memset函数的用法
VS2015如何调试自己写的DLL与调试
备份注册表有什么用
一个人的接受
Cadence OrCAD如何查看整页原理图中的元件的属性
热门文章
OrCAD创建原理图符号图
数值类型和字符串的相互转换
VS2015建立一个完整的c++工程:头文件.h 源文件.cpp,自动生成类
c++ 十进制、十六进制和BCD的相互转换,与打印printf,与函数调用
DOS批处理中%cd%与%~dp0的区别详解
OpenJDK将对Android开发产生怎样的影响?
2015 年最受 Linux 爱好者欢迎的软硬件大盘点
Java 9终于要包含Jigsaw项目了
Linux 容器技术史话:从 chroot 到未来
开发者最常用的 8 款 Sublime Text 3 插件
Copyright © 2020-2023
润新知