• 吴恩达《Machine Learning Yearning》总结(31-40章)


    31.解读学习曲线:其他情况

    下图反映了高方差,通过增加数据集可以改善。

    下图反映了高偏差和高方差,需要找到一种方法来同时减少方差和偏差。

    32.绘制学习曲线

    情况:当数据集非常小时,比如只有100个样本,这时绘制出来的学习曲线可能噪声非常大。

    解决方法:

    (1)与其只使用10个样本训练单个模型,不如从你原来的100个样本中进行随机有放回抽样,选择几批(比如3-10)不同的10个样本进行组合。在这些数据上训练不同的模型,并计算每个模型的训练和开发错误,最终计算和绘制平均训练集误差和平均开发集误差。

    (2)如果你的训练集偏向于一个类,或许它有许多类,那么选择一个“平衡”子集,而不是从100个样本中随机抽取10个训练样本。例如,你可以确保这些样本中的2/10是正样本,8/10是负样本。更常见的做法是,确保每个类的样本比例尽可能的接近原始训练集的总体比例。

    33.为何与人类表现水平进行对比

    对于人类擅长的事情,例如图像识别,语音识别等。

    (1)易于从认为标签中获取数据。

    (2)基于人类直接进行误差分析。

    (3)使用人类表现水平来估计最优错误率,并设置可达到的“期望错误率”。

    对于人类也不擅长的事情,例如推进书籍电影,股票市场预测。

    (1)获取标签数据很难。

    (2)人类的直觉难以依靠。

    (3)最优错误率和合理的期望错误率难以估计。

    34.如何定义人类表现水平

    应该用人类的最高水平去衡量人类的水平(即期望误差率)。举例:医学图像疾病诊断,普通人错误率20%,医生10%,专家5%,专家讨论小左2%,此时人类水平应该为2%。

    35.超越人类表现水平

    举例:语音识别人类错误率是10%,而你的算法错误率是8%,此时已经超越人类,但这时某个子集(即某些方面,如转录语音很快时)人类仍然优于算法,在这些方面仍然可以用前面提到的一些技术进行提升。在语音转录上,仍然可以(1)从输出质量比你的算法高的人那儿获取转录数据。(2)你可以利用人类的直觉来理解,为什么你的系统没能欧识别这些数据,而人类做到了。(3)你可以使用该子集上的人类表现作为期望表现目标。

  • 相关阅读:
    Java UDP通信简单实现
    为什么要阅读——兼分享《首先,打破一切常规》[中译文]:世界顶级管理者的成功秘诀/(美)马库斯·白金汉,(美)柯特·科夫曼 著
    怎样提高团队管理能力9
    POJ2777 Count Color 线段树区间更新
    Swift和Objective-C混合编程——Swift调用OC
    LINK : fatal error LNK1123: 转换到 COFF 期间失败: 文件无效或损坏
    ZZUOJ-1195-OS Job Scheduling(郑州大学第七届ACM大学生程序设计竞赛E题)
    CentOS出错You don't have permission to access on this server
    string 和 vector 初探
    ICMP报文类型
  • 原文地址:https://www.cnblogs.com/ys99/p/9189051.html
Copyright © 2020-2023  润新知