• nCompass-网络流量基础知识及数据源


    单击返回:自学N-Compass之路 
    nCompass-网络流量基础知识及数据源

    1.  流量分析基础知识

    1.1  常见的流量分析方式:

    • SNMP: 网管平台通过主动式获取设备接口流量信息。
    • Flow:网络设备将穿越的数据流信息精简压缩打包。
    • 日志:有些设备支持基于业务访问内容生成详细的交互信息。
    • 原包:通常是交换机将穿越的数据包1:1的复制到一个新的物理端口发送至分析平台,然后分析平台进行拆解分析出指标。

    SNMP :

    网管平台以主动获取MIB-ID的方式读取设备接口硬件级信息,包含接口命名/速率/带宽/流入流出包数/流入流出吞吐量等。

    优点: 运维人员最常用的流量分析方式,技术成熟

    缺点:

    • 数据精细化颗粒度较差,获取到的数值为最近5分钟平均值;
    • 高频主动式获取可能会对地段设备性能消耗较大,业界内通常采用每5分钟或每1分钟读取一次;
    • 分析内容极少,有效信息仅包含接口实时吞吐量,无法看到明细通讯对。

    Flow(NetStream、NetFlow和sFlow)

    Flow技术基于“流”提供报文统计功能,可以对网络设备的每个端口上出入方向的流量进行采样,对采样到的报文依据报文中的关键值(例如五元组等)对网络中的流量进行分类统计。

    优点:轻量级

    缺点:

    • 采样比原因可能会导致数据准确性较差;
    • 有效的分析内容较少,仅包含基本的五元组信息;
    • 传输可能会消耗带宽。

    日志:

    优点:轻量级

    缺点:

    • 传输可能会占用业务带宽(有的日志内容只能从业务端口发出,不能出带外端口发出);
    • 内容精细程度和各设备厂商所支持的分析程度有关。

    原包(第一种:流量镜像):

     优点:

    • 非入侵式旁路部署,不会对现网架构造成影响,隔离且独立的网络架构;
    • 高密度镜像端口集中化管理;
    • 良好的可扩展性。

    缺点: 可能会对设备处理性能造成极微影响,

    原包(第二种:分光器):

     优点:

    • 不会对网络设备的性能造成任何影响;
    • 高密度镜像端口集中化管理;
    • 良好的可扩展性;
    • 分光器为无源设备,异常时会自动bypass,对业务影响几乎为零。

    缺点: 初次上线分光器会中断业务。

    1.2  nCompass采集口

    • 电口:通用千兆电口模块。
    • 光口:SFP 850nm LC多模模块,支持千/万兆。
    • 注意,对端设备模块要求必须类型一致。

    1.3 流量规划

    • 监控节点:同一台设备的同一个物理接口才是一个监控节点。(同一台设备的不同物理接口不能当做一个监控节点。)
    • 避免问题:非同一条数据流无法重组。(安全类设备随机回话序列号)
    • 建议镜像方式:统一监控节点both双向镜像。
    • 如何判定数据是同一监控节点? 通过一条数据流里面两个方向的数据(服务端到客户端,客户端到服务端),查看源目MAC是否是一对。
    • 关键设备重点监控:例如串接的负载、WAF、代理设备、行为管理、防火墙、防水墙、防毒墙。(需分别监控交换机、入关键设备、出关键设备接口,尽可能的避免交换机异常导致故障定位分析的错误。)

    1.4 监控原则

    • 关键性:需监控所有4层设备(对数据包具有处理功能的设备,防火墙、负载等)前后端节点;交换机只对数据进行快速转发,通常场景下不会对数据进行处理,不监控交换机的前后端。
    • 全面性:针对各关键业务系统架构特点合理部署监控节点,尽可能监控业务流上的每个关键节点。
    • 准确性:交换机镜像出的流量尽可能的纯净,应避免出现单向流量或重复流量,以减轻设备性能压力。
    • 唯一性:若两个监控点的流量重复,需借助TAP流量汇聚设备分别打上不同的VLAN标签或将以上两个节点的流量分配给不同的设备物理接口分析。
    • 均衡性:针对各区域数据量特点合理分配设备接口及处理性能,做到压力分摊,以保证数据的准确性。例如,东西向数据交互量大、南北向IP通讯对量大等。
    • 分压性:根据数据中心网络内部区域明细划分原则,大流量的不同区域尽可能使用不同的探针进行监控,以降低运维复杂度。
    • 扩展性:设备的部署应考虑峰值流量以及未来一段时间内业务增长蹴球,避免输入到设备的流量
    • 超出设备的实际处理能力。

    1.5  nCompass的重要概念

       “我的网络”:

         nCompass流量分析平台是旁路设备,不像是串接的网络设备,很难去判定数据的流入/流出的方向,所以引入“我的网络”的概念。 进入“我的网络”流量为流入,离开“我的网络”流量为流出。

         哪些地址段需要定义为“我的网络”:

    •   公网对外提供服务地址
    •    数据中心内部私有地址
    •    外联第三方单位对外体用服务地址

       “时间戳”:

          nCompass平台会对收到的每个数据包打上nm级时间戳,准确定为100%。

         不建议使用TAP设备打时间戳。

        如何定义分支站点?

          分支站点定义存在一个很大的误区,如何准确的定义分支站点?

          网络工程师可能会对此产生误解,专线的互联地址也就是网络设备的接口地址不应该定义为站点,因为在访问的实际交互过程中,例如一台上海的终端192.21.0.1访问的目的肯定真实的业务IP,而不是网络设备的接口,原始流量中看到的源目IP也是一样。

    2. nCompass数据源

    2.1 数据源的几个概念

    • 数据模型:nCompass平台的数据分类方式。数据模型之间可以通过共同的维度实现关联。
    • 维度:是指流量分析里的分析对象,比如链路、IP、通讯对、省份、运营商、MAC、Vlan、租户、VXlan等等
    • 指标:对分析对象的行为、状态、数量进行聚类、统计得到的结果。

          维度和指标的区别:

    • 指标随着时间变化、维度不随时间变化
    • 指标有单位,维度没有单位
    • 指标大多是数值,维度大多是名称
    • 时间是特殊的维度

    2.2 数据源的使用步骤

    • 选择数据模型
    • 选择维度
    • 选择指标
    • 过滤维度
    • 筛选指标

    2.3 常用的数据模型

    • TCPIP:最常见的模型,包括OSI参考模型1-4层的维度:包括数量、延时、大小、成功失败等种指标。
    • HTTP:专门分析HTTP协议的模型,包括域名、URL、useragent等各种维度:包括,延时、返回码的统计。
    • HTTPS:专门FenixSSL握手的协议。
    • Oracle、DB2、SQLserver:各种数据库模型。
    • NetFlow:专门分析Flow的模型,包括netflow、Netstream、sflow等。
    • ICMP模型:专门分析ICMP差错报文的模型。
    • 拨测:主动拨测的模型。

     2.4 数据源的使用(数据表格的方式)

          数据回溯(里面有各种数据表格)

     

     

     2.4.1 具体看一下“接口”数据表格:     

     维度:探针接口

     指标: 总吞吐量、流量吞吐量、流出吞吐量、丢包率、网络时延、建连请求数、新建回话数、建连失败数。

    如果想知道这个接口里面各个通讯对的情况?

    接口右键---“添加维度”

    • 应用: 应用、应用组、域名、URL
    • 站点:站点、站点组、客户端站点、服务端站点、客户端站点组、服务端站点组
    • IP:IP、服务端IP、客户端IP、IP通讯对、服务端口、客户端端口、服务端IP端口、XFF-IP
    • 采集点:
    • 其他:

    现在看一下常用的,在这个探针接口下面的 ” 服务端IP、客户端IP、服务端口”  ,  还可以进行排序。

    右上角可以单独 “修改维度” “修改指标” 。

     

    “修改指标” 内具体内容:

     

     2.4.2  具体看一下“服务端口”数据表格(数据中心有哪些服务端口):     

     如何具体看都有哪些服务器使用了 80 端口:

    如何看一台服务器对外提供了哪些端口服务呢?

    此时可以把“服务端IP”也添加进来

     2.5 Dashboard 数据源的使用

     新建一个Dashboard ---  图表区

    那么如果想知道曲线上面某一时间点的具体内容是什么?  可以新建一个表格区

    此时可以讲“接口流量”的图标区  和 “TopN通讯对”的表格区 做关联 。

    如果当你看到IP通讯对之后, 想进一步只看某一个客户端IP访问的所有服务器端IP端口,如何查看?

    复制一份表格粘贴在表格区------再原表格右键关联-----

    关联的时候把“服务器IP”“服务端口” 去掉,   意思就是当从表格“Top N通讯对”复制到关联表格“客户端访问的所有IP端口”时,会忽略“服务器IP”“服务端口”  。

    以上为列出所有客户端IP为172.19.16.14访问的所有ip端口。

    以上为列出所有客户端IP为172.16.104.8访问的所有ip端口。

     

  • 相关阅读:
    BT协议分析(1)—1.0协议
    Qt线程(2) QThread中使用WorkObject
    新浪微博的开放平台官方文档太粗略,记:仿大平台来实现
    58同城 骗子太多
    代码实现业务经验(程序员的核心能力)
    gitbash 本地文件提交为一个新的项目 到 gitlab
    Spring 核心容器 IOC
    spring AOP 理解
    java不返回某些字段,包括 null
    CentOS7安装 Redis5 单实例
  • 原文地址:https://www.cnblogs.com/yaoyaojcy/p/12363601.html
Copyright © 2020-2023  润新知