• 机器学习建模老司机的几点思考与总结


    机器学习现在在很多地方都是十分流行,无论现在的你是否从事建模工作,还是你将来想从事相关工作,对于从业者可以从中看出一些同感与意见,对于未来从业者可以了解这个职业到底是做些什么。

    file

    话不多说,一个机器学习模型的开发周期一般可以分为:

    1、业务需求挖掘(Business insight)

    2、数据搜集处理(Data Curation)

    3、模型训练开发(Modeling)

    4、部署及测试上线(Deployment)

    5、模型闭环监控及继续优化(Feedback & Improvement)

    本文也是按照这个结构来进行展开总结与思考。

    01 业务需求挖掘(Business insight)

    当我们接到业务需求的时候,第一件事情需要了解的,就是需求的整体逻辑。一个合理的产品设计通常都是与业务痛点相挂钩的。如果业务提出一个比较空泛的需求,如:

    我想要提高一下营销成功率,帮我搞个模型吧。

    这个时候,我们需要沉住气,,有的时候数据建模师也需要充当起“心理辅导员”,慢慢引导业务说出实际的业务痛点与需求,好让我们对症下药(当然靠谱且有经验的业务是不会犯这种行为的)。在经过若干分钟的业务了解,其实业务真正想提高的,是最后的审批通过率,而继续了解,发现是由于最近业务的增长,电销人员的人手不足,导致审批的效率低下,而真正有意愿购买产品的客户被营销的可能性降低,导致最终的整体转换率过低。

    了解过后,其实我们会有一个初步的模型设计思路,那就是可以设计一个模型对客户进行意愿度的预评估,根据评分对客户进行营销优先级,结合电销人员的经验度(营销成功率)与营销黄金时间等等维度的结合,输出营销计划,提高转化率。

    那么在了解了业务需求后,接下来就需要针对具体的需求,继续咨询业务方一些业务知识点,而不是有了一点眉目就马上开工,毕竟模型还是做出来还是业务在用,事先沟通好一些细节性的问题也是无碍,而且沟通的过程可以让你对业务有更加深入的了解,对你后面的特征开发有很好的帮助。

    02 数据搜集处理(Data Curation)

    当我们确定了要开发的模型之后,这个时候需要做的是搜集数据与处理数据了。顾名思义,这一步也就是收集你可以用的数据去训练模型,而这是我认为是最为重要的一步。而在开始搜集数据前,需要了解几点内容:

    1、模型应用节点

    2、时效性要求

    2、有没有预算,预算有多少

    3、项目紧急程度

    模型应用节点

    模型的应用节点,决定了你有哪些变量是不可以用的,避免说出现“事后变量”或者是无法上线的变量,这往往是和业务逻辑是挂钩的,在上一步的Business insight过程需要了解清楚。比如:一个模型是打算应用于初审环节(贷款审批流程),因此我们在初审节点后的变量都是不能用的,比如终审环节、门店审核等等,还有一些贷后的变量都是不能用的。

    时效性要求

    有些模型可能需要应用在实时的审批过程,要求秒级响应,但也有些模型的时效性要求则没那么高,小时级别的,次日级别的都会有,了解清楚,这样子在设计你的模型或者变量的时候,更加地灵活。

    预算多少

    预算这个东西其实很难说,但是如果能有,那当然是最好的了,因为有了钱,自然可以从第三方机构接一些外部数据源,类似于外部征信之类的,这对于我们的模型效果会有很好的提升。当然,很多时候,我们都会是用公司已经接入的数据源来开发特征的了。

    项目紧急程度

    这个不仅是对于模型开发项目,其实所有的项目都是需要的,了解清楚项目所能给的最大时长,做好项目计划,马上开始工作。搜集数据,不需要等到所有的特征都搜集完才开始开发特征或者训练模型,有多少数据,就先搞多少数据。

    在了解了以上的内容后,你就可以开始搜集所有相关的数据了,因为你的数据源会非常多,所以这里你必须做好数据的归档,不然后期会很乱,而且原始数据需要备份一份不要动,方便后续复盘使用。具体可以参考我先前的一篇文章内容《分享8点超级有用的Python编程建议》: https://mp.weixin.qq.com/s/eOeXA0ctErvd2mmEexZcBA

    搞到数据后,需要做的事情大概可以分为:

    1、消化所有的数据含义、逻辑;

    2、对数据进行各种清洗,变成你熟悉的结构;

    3、对数据进行质量控制,找出明显有问题的数据,探寻原因,实在找不到原因就直接剔除不用;

    4、对数据衍生的特征做好备注,方便后面的回溯。

    更加细致的数据挖掘过程这里就不展开,有很多好的书籍和开源代码可以参考。

    03 模型训练开发(Modeling)

    模型训练开发,这里指的是已经做完特征工程的步骤,重点在于筛选变量、选择算法、算法调参、模型评估等等的操作。这里也有几点建议分享给大家:

    1、变量筛选,尽量多用自动化工具,对你的效率提升很大。最好还是通过自己总结多方特征筛选的方法,写一套自己的方法,方便自己调用;
    2、如果是使用传统机器学习算法,如rf、gbdt、xgb等,建议变量个数不要太多,50个以内差不多了。如果是一些深度学习相关的模型算法就另当别论。
    3、对于模型算法的选择,如果不知道选啥,可以都试试看看效果最直接。但是作为一个有经验的模型开发专家,你还是需要了解算法的原理,根据实际问题的情况来选择算法会更加好,比如类别型变量的占比、数据维度、样本目标占比、数据分布等等。
    4、算法调参和模型评估的方法太多太成熟了,可以自己试着总结一份demo代码。

    04 部署及测试上线(Deployment)

    关于模型部署,涉及到的步骤就没那么多了,主要分成:

    1、模型部署常用的就是pmml模型文件,所以你需要导出来给到后台开发小哥

    2、而在这之前,一般需要我们写好接口文档,确定好特征逻辑与部署节点,给到产品经理

    3、自己在对应的平台上写sql,测试对数等,更多地,这一步考验的是模型开发者的细心程度,当然,熟悉的老司机会总结出合适自己的一套的变量上线套路,弯道超车

    4、模型文件部署到生产环境后,拿一些实际的单子进行AB test,看下实际输出是否满足预期,没有问题就万事大吉,不然得细心从变量开发的逻辑开始检查

    05 模型闭环监控及继续优化(Feedback & Improvement)

    至于模型上线后,我们并不是就完全不管了,我们需要时刻监控模型的表现,对于排序模型,主要可以从下面几个角度去监控:

    1、排序性情况,比如评分卡模型,各个分组间的badrate是否仍存在单调性

    2、分类占比,也就是各个类别的占比情况,如果出现与建模时候差异较大的情况,需要有所提示

    3、与模型相关的业务指标波动,有些模型会直接影响通过率或者是转化率的,通过这些指标也是可以看出异常

    除此之外,评分卡模型一般一年左右就需要迭代或更换,需要时刻留意效果作出决策。

    以上是对机器学习建模的一些总结与思考,欢迎指正!

  • 相关阅读:
    React入门实例
    【C语言】一些重要的知识点
    【C语言】字符串模块
    【C语言】指针模块
    贝尔曼福特算法
    dijkstra算法
    拓扑序列
    树和图的广度优先遍历
    树和图的深度优先遍历
    回溯剪枝,dfs,bfs
  • 原文地址:https://www.cnblogs.com/samshare/p/11664259.html
Copyright © 2020-2023  润新知