• 【常用损失函数】


    一、Smooth L1 Loss

        1.公式:

         

        2.原因:

        L1损失使权值稀疏但是导数不连续,L2损失导数连续可以防止过拟合但对噪声不够鲁棒,分段结合两者优势。

    二、Focal Loss

       1.公式:

       

       2.作用:

              使得正负样本平衡的同时,难分和易分样本的比重不同,更易分。 

    三、交叉熵损失

         1.公式:

         

         2.平衡交叉熵损失

            

    四、Dice Loss

         1.公式:(类似于交并比)

          

    五、平方损失

       1.适用

        用于线性回归中。

    六、hinge损失(铰链损失)

        1.公式:

        

         2.适用:

         主要用于SVM中。SVM损失是hinge损失和L2正则损失的和。

    七、指数损失

      1.适用

       用于adaboost中。

    八、0/1损失

    对应方法:

     

       1.Faster RCNN:cls+loc=交叉熵损失+smooth L1损失

       2.YOLO:平方损失

       3.SSD:cls+loc=交叉熵损失+smooth L1损失

       4.EAST:cls+角度+loc=平衡交叉熵损失+cos损失+log交并比损失

    分类:

       交叉熵损失、focal loss、指数损失、hinge损失

    回归:

       平方损失、smooth L1损失、交并比损失、Dice 损失

     

       

     

  • 相关阅读:
    Java ClassLoader机制
    Spring JMS
    MySQL权限分配
    Java参数传递机制
    JVM装载过程
    PowerDesigner15使用时的十五个问题
    修改当前行 传值
    WebSphere MQ
    Hibernate Search牛刀小试 (转)
    关于hibernate的缓存使用
  • 原文地址:https://www.cnblogs.com/EstherLjy/p/9346249.html
Copyright © 2020-2023  润新知