• 萌新向Python数据分析及数据挖掘 第三章 机器学习常用算法 第三节 梯度下降法 (上)理解篇


    理解

                特点

                           

                作用

                            最小化一个损失函数

                            最大化一个效用函数:梯度上升法

                随机梯度下降法

                            以单个数据作为梯度下降的依据

                                        优点

                批量梯度下降法

                            以整体数据作为每次梯度下降的方向的根据

                小批量梯度下降法

                            以K个数据作为梯度下降的依据

                故事

                            用损失函数做一个滑梯或者一个碗,定义一个重力方向,让他朝下,放一个小球让他滚动,最后记录他的位置和小球的高度,整个碗可能有几个洼,所以要重复多次放球

                                        随机梯度下降法

                                                    整个数据就是一个碗,抽取其中以个数据就相当于在碗里面找一条滑梯

                                                    超参数

                                                                n_iters

                                                                            需要坐遍滑梯多少轮

                                        批量梯度下降法

                                                    构造出整个碗

                                        小批量梯度下降法

                                                    留缝的碗

  • 相关阅读:
    日志组件logback的介绍及配置使用方法(二)
    日志组件logback的介绍及配置使用方法(一)
    MyBatis+MySQL 返回插入的主键ID
    基于shiro-cas的单点登录、单点登出、统一认证授权系统
    使用Redis存储Nginx+Tomcat负载均衡集群的Session
    数字转大写钱币
    世界四大汽车生产公司
    强制登陆远程桌面
    sql 获取连续年份
    SQL 递归
  • 原文地址:https://www.cnblogs.com/romannista/p/10761706.html
Copyright © 2020-2023  润新知