• awk用法


    awk工具常用操作

    awk 明确来说算是一门编程语言,有变量定义,赋值,判断,循环,输出等,但是他的目的呢主要是用来处理文本和字符串的;

    先说一个可能有人对于 awk和sed有一些模糊的认识,两个都是处理文本的,区别在哪里,那我告诉你两者不属于同一类别;
    awk是一个编程语言!我们可以通过编写awk代码来完成对字符串的操作;而sed是一个没有交互界面的编辑器,就像记事本一样,但是没有界面,只能通过命令交互,搞清楚他是一个软件!不是编程语言;
    懂了两个的却别后在说另一个问题,虽然两者分类上有区别,但是做的事情却有一些交集,所以才会有人搞混;
    虽然都是处理文本字符串,但是不同的情况下用不同的工具会更顺手,比如操作那些表格结构的数据(每一列都对齐)用awk比较方便,awk主要是拿到字符串筛选得到一些结果,
    sed就是纯粹的处理文本,而不是要筛选什么东西;

    选项
    -F     指定输入文件折分隔符。
    -f    从脚本文件中读取awk命令。
    模式和操作:
    awk脚本是由模式和操作组成的:
    pattern {action} 如$ awk '/root/' test,或$ awk '$3 < 100' test。
    模式是用来匹配行的,操作是对匹配结果执行的。两者是可选的,如果没有模式,则action应用到全部记录,如果没有action,则输出匹配全部记录。默认情况下,每一个输入行都是一条记录,但用户可通过RS变量指定不同的分隔符进行分隔。
    模式:
    /正则表达式/:使用通配符的扩展集。
    关系表达式:可以用运算符表中的关系运算符进行操作,可以是字符串或数字的比较。
    模式匹配表达式:用运算符~(匹配)和~!(不匹配)。
    操作:
    操作由一个或多个命令、函数、表达式组成,之间由换行符或分号隔开,并位于大括号内。主要有四部份:
    变量或数组赋值
    输出命令
    内置函数
    控制流命令
    记录和域:
    记录:
    awk把每一个以换行符结束的行称为一个记录。
    记录分隔符:默认的输入和输出的分隔符都是回车,保存在内建变量ORS和RS中。
    $0变量:它指的是整条记录。如$ awk '{print $0}' test将输出test文件中的所有记录。
    变量NR:一个计数器,每处理完一条记录,NR的值就增加1。如$ awk '{print NR,$0}' test将输出test文件中所有记录,并在记录前显示记录号。
    域:
    记录中每个单词称做“域”,默认情况下以空格或tab分隔。awk可跟踪域的个数,并在内建变量NF中保存该值。如$ awk '{print $1,$3}' test将打印test文件中第一和第三个以空格分开的列(域)。
    内建变量FS保存输入域分隔符的值,默认是空格或tab。我们可以通过-F命令行选项修改FS的值。如$awk -F'[: ]' '{print $1,$3}' test,表示以空格、冒号和tab作为分隔符。
    输出域的分隔符默认是一个空格,保存在OFS中。如$ awk -F: '{print $1,$5}' test,$1和$5间的逗号就是OFS的值。
    几个实例:
    awk '/^(no|so)/' test-----打印所有以模式no或so开头的行。
    awk '/^[ns]/{print $1}' test-----如果记录以n或s开头,就打印这个记录。
    awk '$1 ~/[0-9][0-9]$/(print $1}' test-----如果第一个域以两个数字结束就打印这个记录。
    awk '$1 != 10' test-----如果第一个域不等于10就打印该行。
    $ awk '/^root/,/^mysql/' test----打印以正则表达式root开头的记录到以正则表达式mysql开头的记录范围内的所有记录。如果找到一个新的正则表达式root开头的记录,则继续打印直到下一个以正则表达式mysql开头的记录为止,或到文件末尾。
    awk编程
    变量:
    在awk中,变量不需要定义就可以直接使用,变量类型可以是数字或字符串。
        在awk脚本中,这些变量使用起来就象是在脚本中建立的一样。注意,如果参数前面出现test,那么在BEGIN语句中的变量就不能被使用。
    域变量也可被赋值和修改。例如:$ awk '$1 =="root"{$1 ="test";print}' test,如果第一个域的值是“root”,则把它赋值为“test”,字符串一定要用双引号。
    内建变量的使用如。$ awk -F: '{IGNORECASE=1; $1 == "MARY"{print ,$1,$2,$NF}'test,把IGNORECASE设为1代表忽略大小写,打印第一个域是mary的记录数、第一个域、第二个域和最后一个域。
    awk的环境变量
    变量
    描述
    $n
    当前记录的第n个字段,字段间由FS分隔。
    $0
    完整的输入记录。
    ARGC
    命令行参数的数目。
    ARGIND
    命令行中当前文件的位置(从0开始算)。
    ARGV
    包含命令行参数的数组。
    CONVFMT
    数字转换格式(默认值为%.6g)
    ENVIRON
    环境变量关联数组。
    ERRNO
    最后一个系统错误的描述。
    FIELDWIDTHS
    字段宽度列表(用空格键分隔)。
    FILENAME
    当前文件名。
    FNR
    同NR,但相对于当前文件。
    FS
    字段分隔符(默认是任何空格)。
    IGNORECASE
    如果为真,则进行忽略大小写的匹配。
    NF
    当前记录中的字段数。
    NR
    当前记录数。
    OFMT
    数字的输出格式(默认值是%.6g)。
    OFS
    输出字段分隔符(默认值是一个空格)。
    ORS
    输出记录分隔符(默认值是一个换行符)。
    RLENGTH
    由match函数所匹配的字符串的长度。
    RS
    记录分隔符(默认是一个换行符)。
    RSTART
    由match函数所匹配的字符串的第一个位置。
    SUBSEP
    数组下标分隔符(默认值是34)。

    BEGIN模块:
    BEGIN 模块后紧跟着动作块,这个动作块在awk处理任何输入文件之前执行。所以它可以在没有任何输入的情况下进行测试。它通常用来改变内建变量的值,如OFS, RS和FS等,以及打印标题。如:$ awk 'BEGIN{FS=":"; OFS=" "; ORS=" "}{print $1,$2,$3} test。
    END模块:
    END不匹配任何的输入文件,但是执行动作块中的所有动作,它在整个输入文件处理完成后被执行。如$ awk 'END{print "The number of records is" NR}' test,上式将打印所有被处理的记录数。
    重定向和管道:
    awk 可使用shell的重定向符进行重定向输出,如:$ awk '$1 = 100 {print $1 > "output_file" }' test。上式表示如果第一个域的值等于100,则把它输出到output_file中。也可以用>>来重定向输出,但不清空文件,只做追加操作。
    输出重定向需用到getline函数。getline从标准输入、管道或者当前正在处理的文件之外的其他输入文件获得输入。
    system函数可以在awk中执行linux的命令。如:$ awk 'BEGIN{system("clear")'。
    fflush函数用以刷新输出缓冲区,如果没有参数,就刷新标准输出的缓冲区,如果以空字符串为参数,如fflush(""),则刷新所有文件和管道的输出缓冲区。
    流程控制:
    awk中的流程控制语句是从C语言中借鉴过来的,可控制程序的流程。
    条件语句if/else else if。
    循环有三种:while循环;for循环;special for循环。
    break用于在满足条件的情况下跳出循环。
    continue用于在满足条件的情况下忽略后面的语句,直接返回循环的顶端。
    next语句从输入文件中读取一行,然后从头开始执行awk脚本。如:
    {if ($1 ~/test/){next}else {print}}
    exit语句用于结束awk程序,但不会略过END块。
    数组:
    用变量作为数组下标。如:$ awk {name[x++]=$2};END{for(i=0;i<NR;i++) print i,name[i]}'test。在END 模块中,for循环被用于循环整个数组:{for (item in arrayname){print
    arrayname[item]}}打印的顺序是随机的。
    用域值作为数组的下标。如:$ awk '{count[$1]++} END{for(name in count) print name,count[name]}' test。该语句将打印$1中字符串出现的次数。
    delete 函数用于删除数组元素。如:$ awk '{line[x++]=$1} END{for(x in line) delete(line[x])}' test。
    awk的内建函数:
    字符串函数:
    sub函数匹配记录中最大、最靠左边的子字符串的正则表达式,并用替换字符串替换这些字符串。如:$ awk '{ sub(/test/, "mytest"); print }' testfile
    gsub函数作用如sub,在整个文档中进行匹配。如:$ awk '{ gsub(/test/, "mytest"); print }' testfile
    index函数返回子字符串第一次被匹配的位置,偏移量从位置1开始。如:$ awk '{ print index("test", "mytest") }' testfile
    split函数可按给定的分隔符把字符串分割为一个数组。如果分隔符没提供,则按当前FS值进行分割。如:$ awk '{ split( "20:18:00", time, ":" ); print time[2] }'
    时间函数:
    systime函数返回从1970年1月1日开始到当前时间(不计闰年)的整秒数。
    例: $ awk '{ now = systime(); print now }'
    内建数学函数:
    基本同C语言
    自定义函数:
    在awk中还可自定义函数,格式如下:
    function name ( parameter, parameter, parameter, ... ) {
                  statements
                  return expression
    }

  • 相关阅读:
    C#.NET 以上超大文件上传和断点续传服务器的实现
    ASP.NET 以上超大文件上传和断点续传服务器的实现
    JSP 以上超大文件上传和断点续传服务器的实现
    Java 以上超大文件上传和断点续传服务器的实现
    4GB以上超大文件上传和断点续传服务器的源码
    4GB以上超大文件上传和断点续传服务器的代码
    4GB以上超大文件上传和断点续传服务器的实现
    hdu 1013 Digital Roots
    hdu 1012 u Calculate e
    hdu 1011 树形dp
  • 原文地址:https://www.cnblogs.com/codeAB/p/6381981.html
Copyright © 2020-2023  润新知