• Linux vmstat命令实战详解


    物理内存和虚拟内存区别:

    我们知道,直接从物理内存读写数据要比从硬盘读写数据要快的多,因此,我们希望所有数据的读取和写入都在内存完成,而内存是有限的,这样就引出了物理内存与虚拟内存的概念。

    物理内存就是系统硬件提供的内存大小,是真正的内存,相对于物理内存,在linux下还有一个虚拟内存的概念,虚拟内存就是为了满足物理内存的不足而提出的策略,它是利用磁盘空间虚拟出的一块逻辑内存,用作虚拟内存的磁盘空间被称为交换空间(Swap Space)。

    作为物理内存的扩展,linux会在物理内存不足时,使用交换分区的虚拟内存,更详细的说,就是内核会将暂时不用的内存块信息写到交换空间,这样以来,物理内存得到了释放,这块内存就可以用于其它目的,当需要用到原始的内容时,这些信息会被重新从交换空间读入物理内存。

    linux的内存管理采取的是分页存取机制,为了保证物理内存能得到充分的利用,内核会在适当的时候将物理内存中不经常使用的数据块自动交换到虚拟内存中,而将经常使用的信息保留到物理内存。

    要深入了解linux内存运行机制,需要知道下面提到的几个方面:

    首先,Linux系统会不时的进行页面交换操作,以保持尽可能多的空闲物理内存,即使并没有什么事情需要内存,Linux也会交换出暂时不用的内存页面。这可以避免等待交换所需的时间。

    其次,linux进行页面交换是有条件的,不是所有页面在不用时都交换到虚拟内存,linux内核根据”最近最经常使用“算法,仅仅将一些不经常使用的页面文件交换到虚拟内存,有时我们会看到这么一个现象:linux物理内存还有很多,但是交换空间也使用了很多。其实,这并不奇怪,例如,一个占用很大内存的进程运行时,需要耗费很多内存资源,此时就会有一些不常用页面文件被交换到虚拟内存中,但后来这个占用很多内存资源的进程结束并释放了很多内存时,刚才被交换出去的页面文件并不会自动的交换进物理内存,除非有这个必要,那么此刻系统物理内存就会空闲很多,同时交换空间也在被使用,就出现了刚才所说的现象了。关于这点,不用担心什么,只要知道是怎么一回事就可以了。

    最后,交换空间的页面在使用时会首先被交换到物理内存,如果此时没有足够的物理内存来容纳这些页面,它们又会被马上交换出去,如此以来,虚拟内存中可能没有足够空间来存储这些交换页面,最终会导致linux出现假死机、服务异常等问题,linux虽然可以在一段时间内自行恢复,但是恢复后的系统已经基本不可用了。

    因此,合理规划和设计linux内存的使用,是非常重要的。

    虚拟内存原理:

    在系统中运行的每个进程都需要使用到内存,但不是每个进程都需要每时每刻使用系统分配的内存空间。当系统运行所需内存超过实际的物理内存,内核会释放某些进程所占用但未使用的部分或所有物理内存,将这部分资料存储在磁盘上直到进程下一次调用,并将释放出的内存提供给有需要的进程使用。

    在Linux内存管理中,主要是通过“调页Paging”和“交换Swapping”来完成上述的内存调度。调页算法是将内存中最近不常使用的页面换到磁盘上,把活动页面保留在内存中供进程使用。交换技术是将整个进程,而不是部分页面,全部交换到磁盘上。

    分页(Page)写入磁盘的过程被称作Page-Out,分页(Page)从磁盘重新回到内存的过程被称作Page-In。当内核需要一个分页时,但发现此分页不在物理内存中(因为已经被Page-Out了),此时就发生了分页错误(Page Fault)。

    当系统内核发现可运行内存变少时,就会通过Page-Out来释放一部分物理内存。经管Page-Out不是经常发生,但是如果Page-out频繁不断的发生,直到当内核管理分页的时间超过运行程式的时间时,系统效能会急剧下降。这时的系统已经运行非常慢或进入暂停状态,这种状态亦被称作thrashing(颠簸)。

    -------------------------------------------华丽的分割线----------------------------------------------------------
    为了提高磁盘存取效率, Linux做了一些精心的设计, 除了对dentry进行缓存(用于VFS,加速文件路径名到inode的转换), 还采取了两种主要Cache方式:Buffer Cache和Page Cache.前者针对磁盘块的读写,后者针对文件inode的读写.这些Cache有效缩短了I/O系统调用(比如read,write,getdents)的时间.

    内存活动基本上可以用3个数字来量化:活动虚拟内存总量,交换(swapping)率和调页(paging)率.其中第一个数字表明内存的总需求量,后两个数字表示那些内存中有多少比例正处在使用之中.目标是减少内存活动或增加内存量,直到调页率保持在一个可以接受的水平上为止.

    活动虚拟内存的总量(VM)=实际内存大小(size of real memory)(物理内存)+使用的交换空间大小(amount of swap space used)

    当程序运行需要的内存大于物理内存时,UNIX系统采用了调页机制,即系统copy一些内存中的页面到磁盘上,腾出来空间供进程使用。
    大多数系统可以忍受偶尔的调页,但是频繁的调页会使系统性能急剧下降。

    UNIX内存管理:UNIX系统通过2种方法进行内存管理,“调页算法”,“交换技术”。
    调页算法是将内存中最近不常使用的页面换到磁盘上,把常使用的页面(活动页面)保留在内存中供进程使用。
    交换技术是系统将整个进程,而不是部分页面,全部换到磁盘上。正常情况下,系统会发生一些交换过程。
    当内存严重不足时,系统会频繁使用调页和交换,这增加了磁盘I/O的负载。进一步降低了系统对作业的执行速度,即系统I/O资源问题又会影响到内存资源的分配。

    Unix的虚拟内存

    Unix的虚拟内存是一个十分复杂的子系统,它实现了进程间代码与数据共享机制的透明性,并能够分配比系统现有物理内存更多的内存,某些操作系统的虚存甚至能通过提供缓存功能影响到文件系统的性能,各种风格的UNIX的虚存的实现方式区别很大,但都离不开下面的4个概念。

    1:实际内存
    实际内存是指一个系统中实际存在的物理内存,称为RAM。实际内存是存储临时数据最快最有效的方式,因此必须尽可能地分配给应用程序,现在的RAM的形式有多种:SIMM、DIMM、Rambus、DDR等,很多RAM都可以使用纠错机制(ECC)。

    2:交换空间
    交换空间是专门用于临时存储内存的一块磁盘空间,通常在页面调度和交换进程数据时使用,通常推荐交换空间的大小应该是物理内存的二到四倍。

    3:页面调度
    页面调度是指从磁盘向内存传输数据,以及相反的过程,这个过程之所以被称为页面调度,是因为Unix内存被平均划分成大小相等的页面;通常页面大小为4KB和8KB(在Solaris中可以用pagesize命令查看)。当可执行程序开始运行时,它的映象会一页一页地从磁盘中换入,与此类似,当某些内存在一段时间内空闲,就可以把它们换出到交换空间中,这样就可以把空闲的RAM交给其他需要它的程序使用。

    4:交换
    页面调度通常容易和交换的概念混淆,页面调度是指把一个进程所占内存的空闲部分传输到磁盘上,而交换是指当系统中实际的内存已不够满足新的分配需求时,把整个进程传输到磁盘上,交换活动通常意味着内存不足。

    vmstat监视内存性能:该命令用来检查虚拟内存的统计信息,并可显示有关进程状态、空闲和交换空间、调页、磁盘空间、CPU负载和交换,cache刷新以及中断等方面的信息。

    注释:vmstat输出结果中第一行展示的是自最后一次启动以来的平均值,所以此行可以忽略。

    命令参数
                  -V  显示版本
                  -n  只在开始时显示一次各字段名称
                  -a  显示活跃和非活跃内存
                  -d  显示磁盘相关统计信息
                  -D  以表格的形式显示磁盘信息
                  -p  显示指定磁盘分区相关信息
                  -s   显示内存相关统计信息及多种活动数量
                      delay:刷洗时间间隔。如果不指定,只显示一条结果
                      count:刷新次数,如不指定刷新次数,但不指定刷新时间间隔,默认为无穷
                  -m 显示slabinfo
                  -t 显示统计信息的同时打印出时间,该参数和上面的参数同时使用
                  -S 指定单位显示,如,k,K,m,M

    l        Procs

         r列表示运行和等待cpu时间片的进程数,这个值如果长期大于系统CPU的个数,说明CPU不足,需要增加CPU。

         b列表示在等待资源的进程数,比如正在等待I/O、或者内存交换等。

    l        memory

        swpd列表示切换到内存交换区的内存数量(以k为单位)。如果swpd的值不为0,或者比较大,比如超过了100M,只要si、so的值长期为0,这种情况下一般不用担心,不会影响系统性能。

        free列表示当前空闲的物理内存数量(以k为单位)

        buff列表示buffers cache的内存数量,一般对块设备的读写才需要缓冲。

        cache列表示page cached的内存数量,一般作为文件系统cached,频繁访问的文件都会被cached,如果cache值较大,说明cached的文件数较多,如果此时IO中bi比较小,说明文件系统效率比较好。

    l        swap

        si列表示由磁盘调入内存,也就是内存进入内存交换区的数量。从磁盘交换到内存的交换页数量,单位:KB/秒

        so列表示由内存调入磁盘,也就是内存交换区进入内存的数量。从内存交换到磁盘的交换页数量,单位:KB/秒

        内存够用的时候,这2个值都是0,如果这2个值长期大于0时,系统性能会受到影响,磁盘IOCPU资源都会被消耗。

        有些朋友看到空闲内存(FREE)很少的或接近于0时,就认为内存不够用了,实际上不能光看这一点,还要结合si,so,如果free很少,但是si,so也很少(大多时候是0),那么不用担心,系统性能这时不会受到影响的。

    l        IO

        bi:从块设备读入的数据总量(读磁盘)(KB/S)

        bo:写入到块设备的数据总量(写磁盘)(KB/S)

        随机磁盘读写的时候,这2个值越大(如超出1M),能看到CPU在IO等待的值也会越大。(这里我们设置的bi+bo参考值为1000KB/s,如果超过1000KB/s,而且wa值较大应该考虑均衡磁盘负载,可以结合iostat输出来分析。)

    l        System

        in 每秒的中断数,包括时钟中断。

        cs 每秒的环境(上下文)切换次数。例如我们调用系统函数,就要进行上下文切换,线程的切换,也要进程上下文切换,这个值要越小越好,太大了,要考虑调低线程或者进程的数目,例如在apache和nginx这种web服务器中,我们一般做性能测试时会进行几千并发甚至几万并发的测试,选择web服务器的进程可以由进程或者线程的峰值一直下调,压测,直到cs到一个比较小的值,这个进程和线程数就是比较合适的值了。系统调用也是,每次调用系统函数,我们的代码就会进入内核空间,导致上下文切换,这个是很耗资源,也要尽量避免频繁调用系统函数。上下文切换次数过多表示你的CPU大部分浪费在上下文切换,导致CPU干正经事的时间少了,CPU没有充分利用,是不可取的。

    上面2个值越大,会看到由内核消耗的CPU时间会越大 

    l        Cpu

        us列显示了用户进程消耗的CPU 时间百分比。us的值比较高时,说明用户进程消耗的cpu时间多,但是如果长期大于50%,就需要考虑优化程序或算法。

        sy列显示了内核进程消耗的CPU时间百分比。Sy的值较高时,说明内核消耗的CPU资源很多。

    根据经验,us+sy的参考值为80%,如果us+sy大于 80%说明可能存在CPU资源不足。

        id CPU处于空闲状态时间百分比。

        wa IO等待消耗的CPU时间百分比。wa的值高时,这里wa的参考值为30%,如果wa超过30%,说明IO等待比较严重,这可能由于磁盘大量作随机访问造成,也有可能磁盘出现瓶颈(块操作)。

     [ CPU(整个CPU时间的百分比)
       us:花费在非内核代码的CPU 时间 (用户时间,包括Nice时间)
       sy:花费在内核代码的CPU 时间(系统时间)
       id:空闲时间
       wa:IO等待时间
       标准情况下r和b值
       r<5,b≈0
       如果user%+sys%< 70%,表示系统性能较好;如果user%+sys%>=85%,表示系统性能比较糟糕
        user%表示CPU处在用户模式下的时间百分比。
       sys%表示CPU处在系统模式下的时间百分比。 ]

    *注意:
    NFS由于是在内核里面运行的,所以NFS活动所占用的cpu时间反映在sy里面。这个数字经常很大的话,就需要注意是否某个内核进程,比如NFS任务比较繁重。如果us和sy同时都比较大的话,就需要考虑将某些用户程序分离到另外的服务器上面,以免互相影响。

    CPU问题现象:
    1) 如果在processes中运行的序列(process r)是连续的大于在系统中的CPU的个数表示系统现在运行比较慢,有多数的进程等待CPU。
    2) 如果r的输出数大于系统中可用CPU个数的4倍的话,则系统面临着CPU短缺的问题,或者是CPU的速率过低,系统中有多数的进程在等待CPU,造成系统中进程运行过慢。
    3) 如果空闲时间(cpu id)持续为0并且系统时间(cpu sy)是用户时间的两倍(cpu us) 系统则面临着CPU资源的短缺。

    解决办法:
    当发生以上问题的时候请先调整应用程序对CPU的占用情况。使得应用程序能够更有效的使用CPU。同时可以考虑增加更多的CPU。
    关于CPU的使用情况还可以结合mpstat,   ps aux top   prstat等等一些相应的命令来综合考虑关于具体的CPU的使用情况,和那些进程在占用大量的CPU时间。一般情况下,应用程序的问题会比较大一些。比 如一些SQL语句不合理等等都会造成这样的现象。

     

      情景分析:
        vmstat的输出哪些信息值得关注?
        --proc r:运行的进程比较多,系统很繁忙
        --IO bo:磁盘写的数据量稍大,如果大文件的写,10以内基本不用担心,如果是小文件2M以前基本正常,
        --CPU us:持续大于50,服务高峰期可以接受
        --CPU wa:稍微有些同
        --CPU id:持续小于50,服务高峰期可以接受 

     

     freebsd 操作系统:

    1 
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    freebsd7.2中的vmstat 
    [ipcpu@freebsd ~]$ vmstat
    procs memory page disk faults cpu
    r b w avm fre flt re pi po fr sr ad4 in sy cs us sy id
    0 0 0 152M 7448M 131 0 0 0 132 0 0 167 644 860 0 1 99
    [ipcpu@freebsd ~]$  

    AIX 5.3中的vmstat -bash-3.00
    $ vmstat  
    System configuration: lcpu=4 mem=1904MB  
    kthr memory page faults cpu
    ----- ----------- ------------------------ ------------ -----------
    r b avm fre re pi po fr sr cy in sy cs us sy id wa
    1 1 308679 55310 0 0 0 0 1 0 94 4501 333 1 1 98 0

    -bash-3.00$  
    SunOS 5.10的vmstat   -
    bash-3.00$ vmstat
    kthr memory page disk faults cpu
    r b w swap free re mf pi po fr de sr s0 s1 s2 s5 in sy cs us sy id
    0 0 0 2584720 2665344 3 10 1 0 0 0 0 0 0 0 0 495 249 235 0 0 99 -bash-3.00$

    这里稍微介绍下page相关选项:
    re    回收的页面
    mf    非严重错误的页面
    pi    进入页面数(k表示)
    po    出页面数(k表示)
    fr    空余的页面数(k表示)
    de    提前读入的页面中的未命中数
    sr    通过时钟算法扫描的页面

    Tips小提示Linux的块设备和字符设备
    他们根本区别在于是否可以被随机访问——换句话说就是,能否在访问设备时随意地从一个位置跳转到另一个位置。

    举个例子,键盘这种设备提供的就是一个数据流,只能按照你敲击的字母顺序进行录入,所以键盘就是一种典型的字符设备。

    硬盘设备的驱动可能要求读取磁盘上任意块的内容,然后又转去读取别的块的内容,而被读取的块在磁盘上位置不一定要连续,所以说硬盘可以被随机访问,而不是以流的方式被访问,显然它是一个块设备。

     


    Procs

    r: The number of processes waiting for run time.
    运行的和等待(CPU时间片)运行的进程数,这个值也可以判断是否需要增加CPU(长期大于1)

    b: The number of processes in uninterruptable sleep.
    处于不可中断状态的进程数,常见的情况是由IO引起的

    w: The number of processes swapped out but otherwise runnable.

    Memory

    swpd: the amount of virtual memory used (kB).

    free: the amount of idle memory (kB).
            空闲的物理内存

    buff: the amount of memory used as buffers (kB).
    作为buffer cache的内存,对块设备的读写进行缓冲

    cache: the amount of memory used as cache.

    Swap

    si: Amount of memory swapped in from disk (kB/s). 虚拟内存的页导入(从SWAP DISK导入RAM)

    so: Amount of memory swapped to disk (kB/s). 虚拟内存的页导出(从RAM 到 SWAP DISK)
  • 相关阅读:
    大数乘法的几种算法分析及比较(2014腾讯南京笔试题)
    【经典数据结构】Trie
    [LeetCode] MaximumDepth of Binary Tree
    [LeetCode] Minimum Depth of Binary Tree
    二叉树相关题目总结
    python之函数基础总结
    python基础之文件处理总结
    利用for循环和range输出9 * 9乘法口诀表
    购物车程序作业
    字典练习
  • 原文地址:https://www.cnblogs.com/shengs/p/4541435.html
Copyright © 2020-2023  润新知