• AIOps:企业运维新力量!


    摘要:企业运维需求及挑战,来看看华为AIOps如何解决!

    本文分享自华为云社区《【云驻共创】AIOps?企业运维新力量!》,原文作者:启明。

    国际惯例,我们先介绍一下AIOps的概念:AIOps,即 Artificial Intelligence for IT Operations,智能运维,将人工智能应用于运维领域,基于已有的运维数据(日志、监控信息、应用信息等),通过机器学习的方式来进一步解决自动化运维没办法解决的问题。

    Gartner预测,当前的IT应用程序会发生剧变,而且管理整个IT生态系统的方式也会改变。这些变化的关键是Gartner所称的AIOps平台。

    我们今天要讨论的,就是AIOps的需求挑战,以及我们通过怎么样的方式去应对这种挑战。

    AIOps需求及挑战

    (一)新技术、新挑战,呼唤高度智能的电信网络

    近年来,以5G为代表的新技术在电信网络中得到了快速的应用。新技术的应用,给我们带来了很多的收益,比如大连接、低时延、高速率等等。5G的发展,让这些数据都至少有一个数量级的提升。

    但是,数据量级的提升,伴随着的,是运维难度的增加,从而给运维带来了如下挑战:

    1. 网络复杂性:

    数据量级的增大,让网络变得更加复杂:新技术得到了快速应用,旧技术却没有同步退出,导致我们每引入一项新技术,都需要在原来的复杂度上做一个加法。而在某些场景式,甚至要去做乘法。

    比如,在无线领域,2G/3G/4G/5G,“四代同堂”;在核心网,PS/CS/MS物联网等等十域并存......如此高的网络复杂度势必会给运维带来相当大的挑战。

    2. 2B新需求

    运维的第二个挑战是To B的新场景,也就是企业应用。5G的应用推动了智能制造,网络也逐步融入到了企业的生产制造流程当中。在这种情况下,对网络可靠性的要求必然会提高,毕竟网络一旦出问题,生产流程就可能会受影响,甚至会中断,这样造成的损失将会非常大。3.

    3. 成本压力

    成本压力主要是由前面两个挑战传导而来。前两个挑战导致我们要么面临一个比较复杂的网络,要么就是有更高的要求。如果我们以传统的运维方式去应对的话,必然会导致成本的急剧上升。当然,成本的提高,还有一个因素就是能耗。毕竟,5G的能耗要远高于4G的能耗。

    针对上述这些挑战,我们要如何去应对呢?AI技术是关键。

    (二)AI是提升电信网络自动化和智能化的关键技术

    在运维成本方面,有统计显示,90%的运维都需要人工去参与,而70%的成本就是人力成本。在这种情况下,一个很自然的想法就是能不能使用AI的技术来降低人的成本,来提高运维效率。

    比如刚才提到5G能耗问题,我们能否通过人工智能的技术来去降低能耗呢?从过往的实践经验来看,上述问题的答案是肯定的。

    接下来,我们通过三个例子来说明。

    1. 基站节能

    第一个例子是基站节能。基站的能耗是非常高的。在布网初期,基站用户较少,有时候基站常常是空开。针对这种情况,运营商的解决方案是对话务量做出一些预测。如果我们能精准预测话务量的话,那么,在话务量小的时候,我们就可以把一定量的载波关掉,从而达到节能的目的。据统计,在预测话务量的过程中,通过LSTM神经网络来做预测,可以实现节能10%以上。

    2. 核心网KPI异常检测

    第二个例子,是异常检测。在运营商的核心网部署KPI异常检测服务。原有的异常检测服务,是使用固定阈值进行告警通知。而AI技术,则更加智能、及时、准确地识别异常。

    3. 故障识别及根因定位

    通常网络上一旦发生故障,就会触发大量的告警,而系统同时又以高经纬维度进行运维派单。如果多个网员上报多个告警,那么就会出现这种重复派单。也就是说发生了一个故障,多网员上报告警,最后可能导致在多个域(无线域和传输域等)都去派单。

    (三)开发AI应用仍然面临挑战:开发门槛高、周期长

    从上面三个例子我们可以看出,AI相对来说,还是非常靠谱的。但是既然AI如此靠谱,为什么没有得到全面快速的应用呢?因为AI的开发还面临着不小的挑战,简单概括就是六个字:门槛高,周期长。

    上图是Gartner的一份研究报告。它从四个维度分析了AI应用的主要障碍。其中最主要的3点:

    • 人员技能
    • 理解增益与用途
    • 数据范围与质量

    这就回到我们说的六个字:门槛高,周期长。

    1. 门槛高

    此处说的“门槛高”,第一点是指缺乏AI算法开发人员。一般的运维团队不会配置专门的AI算法开发人员,这样必然导致AI技能的缺失。

    但这不是最关键的,因为AI人员通过培训、培养、招聘等手段,都可以解决。

    最关键的,也就是我们说的第二点,算法与业务结合难。如果要想把一个应用做好,最好的是从业务出发,根据业务的实际情况选择合适的算法,这样才能把应用做好。但在实际操作过程中,首先,我们需要有一个业务专家对运维要有深刻的理解;其次,还需要有一个精通AI的算法专家。在这之后,需要他们有充足的时间和意愿坐下来深入的交流。在这里,时间和意愿都会成为阻碍。

    第三点是数据。数据包含两个问题:工程问题和标注问题。即,开发一个AI应用实际上是相当大的工程量,因为首先需要接入海量的多模态的数据去完成模型的训练和推理,最后还要去完成结果的展示,包括去对接一些现有的系统。因此除了前面需要的运维专家和算法专家,还需要很多工程开发人员。

    2. 周期长

    开发门槛高,就决定了开发周期长,毕竟有这么高的门槛,如果不能很好的解决的话,那么周期必然会特别长。开发周期长会导致:

    第一,理解增益和用途。怎么理解呢?也就是说,如果我们长时间拿不到结果,那么企业决策人员就可能对AI能产生的效果会表示怀疑;

    第二,时间越长,大家对项目的期望就会越高。假设同样是做一个东西取得了同样的效果,比如说故障修复时长降低5%,两年做出来的和一个月做出来的,得到的评价可能就完全不一样。

    针对AIOps落地过程中遇到的挑战,华为推出的AIOps服务!现在我们一起来看看AIOps服务具体是什么,以及它是如何解决我们前面面临的挑战的。

    华为AIOps服务

    上图是AIOps服务的整体框架。AIOps从下到上分成了四层:

    第一层:数据的采集和治理。数据采集治理,听上去容易,做起来难,为什么呢?因为要面对的数据类型多,接口和数据类型也不统一。光去适配这些数据,都有可能累的焦头烂额。相对来说,华为AIOps服务首先支持通用的接口,然后对一些常见的设备都已经预置完成,最后能达到自动对接,数据自动治理的一个水平。

    第二层:AI原子能力。华为AIOps共有二十多个原子能力,覆盖检测、预测、识别、诊断四大场景。原子能力不仅仅是AI算法的一个实现。每一个原子能力都经过实际局点数据的检验,针对具体的运营场景做过优化。同时,每一个原子能力也都融入了华为以前的运维经验,某些原子能力甚至能做到不训练可以直接使用。

    第三层:编排能力。包括流程的编排和大屏的编排,还有RPA的编排。原子能力是AIOps智能运维的基础组件,流程编排操作简单灵活,只需从组件库中拖拽数据及AI运维能力进行组合,即可完成命令场景端到端的图形化编排,真正支撑合作伙伴拉低开发门槛,高效率的构建AI应用编排框架。

    第四层:行业AI app。针对最典型的场景开箱即用。通过丰富的2D和3D可视化组件,如提供了超过30个图表控件,覆盖折线、拓扑、列表、柱形等样式,并提供多个地图控件、交互控件及媒体控件搭建。运维效果大屏时只需从组件库里拖拽出各类控件,按需组合自由布局、灵活配置应用的各种报表,辅助监控和分析,例如DIY微服务健康监控大厅,使其能够可视化,展示接口平均成功率、接口平均时延、接口失败率、接口调用次数等。同时提供KPI告警列表,为运营人员提供故障预警参考依据,拖拽所需控件号,对控件的样式,数据及交互进行个性化定制,使其满足展示要求。后端数据还可使用app组合流程里定义的各类中间数据。配置完成后即可一键预览和发布运维效果,大屏展示接口,平均成功率,接口平均时延,接口失败率,接口调用次数等,快速实现DIY可视化大屏。

    (一)RPA助力AIOps对接现有运维系统

    除了展示位,推理结果必须能够帮助进行故障的恢复。现阶段一般是对接现有的系统,比如工单系统(需要工单邮箱的人要去处理)、自动回复和问题单。如果通过人工去对接,费时费力并且容易出错。因此机器人流程自动化,也就是RPA服务,水到渠成。RPA服务可以完成数据的对接、搬运及工单的发放等等,减少人力投入,降低出错成本。

    (二)10+开箱即用的App,支持快速部署

    针对一些最典型的场景,华为云AIOps把编排能力都已经提前准备好,也即,有十多种开箱即用的App,如园区网络、DC网络、IT应用、运营商网络等等场景全覆盖;灵活部署,支持公有云、HCS部署、On Premise部署、及云地协同等;开放生态,支持合作伙伴开发行业App,并将AI应用发布到AI市场,合作共赢,共建网络AI生态。

    下面我们以“KPI异常检测”App来演示一下如何使用一个开箱即用的App。

    第一步:导入网元列表;

    第二步:配置性能、告警数据源;

    第三步:数据源关联到App;

    第四步:启动App;

    第五步:查看大屏,分析故障。

    AIOps使能园区网络智能运维

    那么AIOps是如何解决园区中实际运维的呢?

    (一)园区网络建维模式

    上图为园区网络的两种建维模式:

    2B和2C共用大网的OMC:当前的主流模式。企业去租用运营商的无线设备及其他的一些设备。这种模式的问题在于,终端由企业维护,网络由运营商维护,那么出现问题的时候很难分清责任;另外一个问题是,运营商侧的运维能力和组织构筑大网2C的O域,难以支撑企业内网高SLA,强化客户诉求。

    2B和2C分开OMC(EMS):企业采购5G CPE、无线、核心网等全部设备进行维护,具备端到端的视图。从工信部发文、VDF、奥迪园区及企业SLA保障来看,企业租用运营商频谱或专用频谱自建5G网络会逐步成为主流。

    (二)业务场景和痛点分析:园区客户需要简单易用、多域融合的网络运维

    1. 典型网络现状

    上图是一个园区比较常见的一个视频检测的业务。我们可以看到,即便是一个最常见的业务,也大概十来个网元都会参与到其中,从5G的无线到传输到边缘计算,甚至是核心网,都会去参与其中。

    2. 园区应用

     上图列出了园区里面常见的一些应用,包括边缘的AI检测、智能物流、室内定位等。所有的这些业务其实都和上一张图类似,即任何一个简单的业务都要涉及到多个域的参与。

    那么园区与运营商运维的差异是什么呢?主要有以下三点:

    用户:缺乏专业的通信知识,网络运维能力弱;

    网络:组网相对简单,但涉及多域、无线、传接、数通、IT等;

    SLA:生产系统网络端到端SLA合同要求高,7X24小时,99.99%。

    因此,客户如果是园区运维的话,有如下痛点:

    技能:5G 2B引入使得网络更加复杂,企业工程师缺乏相关技能,运维困难;

    工具:缺乏有效的运维工具,复杂网络问题定位需要跨域专家现场会诊,成本高,耗时长。

    总结来说,园区网络跨域设备需要实现数据融合,支撑端到端分析及呈现,最终实现企业ICT基础设施的统一运维。而园区网络涉及网络设备多,边界模糊,需要有统一的跨域定界定位能力,加速生产网络问题定位。

    (三)传统人工、工具化运维不能满足园区网络新需求,急需智能化转型

    根据上图的数据,我们可以看到:

    被动式运维:75%的问题都是由用户发现而非主动检测,如果由用户发现,那么用户很可能就会投诉;

    自动化程度低:企业成本中70%的运营成本属于人力成本,成本激增;

    故障解决困难:90%故障的恢复时间是用来做问题定位的,真正的问题修复时间占比非常小。

    这样看来,无论是从效率还是效果这两方面去考虑,都有一个诉求就是引入人工智能去解决问题,使能网络运维的预测、分析、决策的自动化闭环。

    (四)跨域故障定位算法流程

    上图是跨域故障定位的算法流程。整个流程如下:

    输入:

    • 告警:设备上报的告警;
    • Topo:组网Topo结构;
    • 故障传播图:告警间的影响关系。

    流程介绍:

    • 降噪:过滤原始告警中的闪断、震断等数量多又无效告警;
    • 聚合:对告警进行划分,将Topo不相关的告警分开,可能相关(属于同一故障)的告警聚合到一起,得到多个告警组;
    • 识别定位:结合Topo、故障传播图,对每个告警组进行分析,识别出每个告警组中有几个故障,每个故障的根因网元和根因告警;
    • 诊断:对于每个故障告警诊断出故障的类型,例如:电源中断。

    输出:

    • 故障的根因
    • 故障设计的告警
    • 故障类型
    • 故障恢复建议

    (五)AIOps框架实现算法流程

    以上讲解了整个的算法流程,接下来,我们看看如果使用华为AIOps框架去实现算法流程。

    1、快速配置数据源,编排流程

    配置数据源:将无线、传输、核心网等多个域的告警接入,接入网络拓扑数据;

    流程编排:通用已有的原子能力,快速进行流程编排。

    经过上述过程,可以完成“事件通知”功能,并将结果保存到记录集(即,数据库),用于大屏展示。效果图如下:

    打开其中一条告警,可以看到如下信息:

    AIOps部署建议

    根据前述的实践,我们可以总结以下内容:

    1、选定成熟场景,循序渐进部署AIOps

    经过长期实践,我们对AIOps部署失败的主要原因做了如下总结:

    数据上不来:数据分散在各个独立系统之上,缺乏综合采集管理手段。数据缺失,数据质量低下是造成AIOps效果欠佳的主要原因;

    命令下不去:缺乏自动化运维工具,不能进行主动检测,恢复操作;

    模型不智能:不能有效的积累日常运维中的标注信息,不能实现模型自学习。

    因此,在部署失败的基础上,我们可以得出,如果要成功部署AIOps,我们需要:

    从具备条件的成熟场景出发,循序渐进推进AIOps部署;

    • 数据上的来,全面收集各种运维数据,提高数据质量;
    • 命令下得去,AIOps后端对接现在自动运维工具,增强诊断手段和自动恢复能力;
    • 有效积累标注数据,让AIOps模型能不断收到反馈,具备自学习能力。

    2、选择成熟的AIOps服务

    针对不同类型的企业,AIOps服务的选择也是不尽相同,具体见下表:

    华为AlOps服务降低网络AI应用开发门槛,加速网络AI应用落地。沉淀了10+开箱即用的智能APP,覆盖运营商网络、园区网络、数据中心网络和IT应用等应用领域。预集成丰富的AI原子能力,覆盖故障预测、检测、诊断、识别等环节。支持用户零编码开发AI应用,提升运维效率。

    感兴趣就点击此处一起来体验一下吧~

    点击关注,第一时间了解华为云新鲜技术~

  • 相关阅读:
    Linux安全应用之防垃圾邮件服务器的构建
    Postfix邮件系统安装配置视频
    Linux常用的安全工具
    Linux系统安全加固(一)
    全球开源软件发展趋势分析
    安装配置FreeBSD9全过程体验
    P1441-砝码称重
    POJ-2376 Cleaning Shifts
    P1514-引水入城
    P1378-油滴扩展
  • 原文地址:https://www.cnblogs.com/huaweiyun/p/14917397.html
Copyright © 2020-2023  润新知