14文本处理工具awk

awk文本处理工具

awk 简介

awk 是一种编程语言，用于在 linux/unix 下对文本和数据进行处理。数据可以来自标准输入、一个或多个文件，或其它命令的输出。它支持用户自定义函数和动态正则表达式等先进功能，是linux/unix下的一个强大编程工具。它在命令行中使用，但更多是作为脚本来使用。

awk 的处理文本和数据的方式是这样的，它逐行扫描文件，从第一行到最后一行，寻找匹配的特定模式的行，并在这些行上进行你想要的操作。如果没有指定处理动作，则把匹配的行显示到标准输出(屏幕)，如果没有指定模式，则所有被操作所指定的行都被处理。 awk 分别代表其作者姓氏的第一个字母。因为它的作者是三个人，分别是 Alfred Aho、 Brian Kernighan、 Peter Weinberger。 gawk是 awk 的GNU 版本，它提供了 Bell 实验室和 GNU 的一些扩展。

awk 语法格式

语法格式

awk [options] 'commands' filenames
awk [options] -f awk-script-file filenames  

options

-F 定义输入字段分隔符，默认的分隔符是空格或制表符(tab)

commands

BEGIN{} ==> 行处理前

{} ==> 行处理

END{} ==> 行处理后

# awk 'BEGIN{print 1/2} {print "ok"} END{print "-----------"}' /etc/hosts
0.5
ok
ok
ok
-----------  

BEGIN{} 通常用于定义一些变量，例如 BEGIN{FS=":";OFS="---"}

FS 输入分隔符

OFS输出分隔符

awk 命令格式

1.awk 'pattern' filename  
示例： awk -F: '/root/' /etc/passwd

2.awk '{action}' filename 
示例： awk -F: '{print $1}' /etc/passwd

3.awk 'pattern {action}' filename 
示例： awk -F: '/root/{print $1,$3}' /etc/passwd
示例： awk 'BEGIN{FS=":"} /root/{print $1,$3}' /etc/passwd

4.command |awk 'pattern {action}' 
示例： df -P| grep '/' |awk '$4 > 25000 {print $4}'

awk 工作原理

# awk -F: '{print $1,$3}' /etc/passwd

(1)awk 使用一行作为输入，并将这一行赋给内部变量$0，每一行也可称为一个记录，以换行符结束

(2)然后，行被:（默认为空格或制表符）分解成字段（或域），每个字段存储在已编号的变量中，从$1 开始，最多达 100 个字段

(3)awk 如何知道用空格来分隔字段的呢？ 因为有一个内部变量 FS 来确定字段分隔符。初始时，FS 赋为空格

(4)awk 打印字段时，将以设置的方法使用 print 函数打印， awk 在打印的字段间加上空格，因为$1,$3 之间有一个逗号。逗号比较特殊，它映射为另一个内部变量，称为输出字段分隔符 OFS， OFS 默认为空格

(5)awk 输出之后，将从文件中获取另一行，并将其存储在$0 中，覆盖原来的内容，然后将新的字符串分隔成字段并进行处理。该过程将持续到所有行处理完毕

记录与字段相关内部变量： man awk

$0： awk 变量$0 保存当前记录的内容 # awk -F: '{print $0}' /etc/passwd

NR： The total number of input records seen so far. # awk -F: '{print NR, $0}' /etc/passwd /etc/hosts

FNR： The input record number in the current input file 
# awk -F: '{print FNR, $0}' /etc/passwd /etc/hosts

NF： 保存记录的字段数， $1,$2...$100 
# awk -F: '{print $0,NF}' /etc/passwd

FS： 输入字段分隔符，默认空格 
# awk -F: '/alice/{print $1, $3}' /etc/passwd
# awk -F'[ :	]' '{print $1,$2,$3}' /etc/passwd
# awk 'BEGIN{FS=":"} {print $1,$3}' /etc/passwd

OFS： 输出字段分隔符 
# awk -F: '/alice/{print $1,$2,$3,$4}' /etc/passwd
# awk 'BEGIN{FS=":"; OFS="+++"} /^root/{print $1,$2,$3,$4}' /etc/passwd

RS The input record separator, by default a newline. # awk -F: 'BEGIN{RS=" "} {print $0}' a.txt

ORS The output record separator, by default a newline. # awk -F: 'BEGIN{ORS=""} {print $0}' passwd


`区别`：
字段分隔符：FS OFS 默认空格或制表符
记录分隔符：RS ORS 默认换行符


lab1:
[root@yang ~]# awk 'BEGIN{ORS=" "} {print $0}' /etc/passwd #将文件每一行合并为一行
ORS默认输出一条记录应该回车，加了一个空格

lab2:
[root@yang ~]# head -1 /etc/passwd > passwd1
[root@yang ~]# cat passwd1
root:x:0:0:root:/root:/bin/bash
[root@yang ~]#
[root@yang ~]# awk 'BEGIN{RS=":"} {print $0}' passwd1
root
x 
0 
0
root
/root
/bin/bash

[root@yang ~]# awk 'BEGIN{RS=":"} {print $0}' passwd1 |grep -v '^$' > passwd2

格式化输出

print 函数

# date |awk '{print "Month: " $2 "
Year: " $NF}'
# awk -F: '{print "username is: " $1 "	 uid is: " $3}' /etc/passwd
# awk -F: '{print "	username and uid: " $1,$3 "!"}' /etc/passwd

printf 函数

# awk -F: '{printf "%-15s %-10s %-15s
", $1,$2,$3}' /etc/passwd
# awk -F: '{printf "|%-15s| %-10s| %-15s|
", $1,$2,$3}' /etc/passwd
%s 字符类型
%d 数值类型
%f 浮点类型
占 15 字符
- 表示左对齐，默认是右对齐
printf 默认不会在行尾自动换行，加

awk 模式和动作

任何 awk 语句都由模式和动作组成。

模式部分决定动作语句何时触发及触发事件。处理即对数据进行的操作。

如果省略模式部分，动作将时刻保持执行状态。模式可以是任何条件语句或复合语句或正则表达式。模式包括两个特殊字段 BEGIN 和 END。使用 BEGIN 语句设置计数和打印头。

BEGIN 语句使用在任何文本浏览动作之前，之后文本浏览动作依据输入文本开始执行。

END 语句用来在 awk 完成文本浏览动作后打印输出文本总数和结尾状态。

模式

正则表达式

1.匹配记录（整行）

# awk '/^alice/' /etc/passwd
# awk '$0 ~ /^alice/' /etc/passwd
# awk '!/alice/' passwd
# awk '$0 !~ /^alice/' /etc/passwd  

2.匹配字段：匹配操作符（~ !~）

# awk -F: '$1 ~ /^alice/' /etc/passwd
# awk -F: '$NF !~ /bash$/' /etc/passwd

比较表达式

比较表达式采用对文本进行比较，只有当条件为真，才执行指定的动作。比较表达式使用关系运算符，用于比较数字与字符串

关系运算符
运算符 含义      示例
<     小于      x<y
<=    小于或等于 x<=y
==    等于      x==y
!=    不等于 	 x!=y
>=    大于等于  x>=y
>     大于      x>y

示例

# awk -F: '$3 == 0' /etc/passwd
# awk -F: '$3 < 10' /etc/passwd
# awk -F: '$7 == "/bin/bash"' /etc/passwd
# awk -F: '$1 == "alice"' /etc/passwd
# awk -F: '$1 ~ /alice/ ' /etc/passwd
# awk -F: '$1 !~ /alice/ ' /etc/passwd
# df -P | grep '/' |awk '$4 > 25000'

条件表达式

# awk -F: '$3>300 {print $0}' /etc/passwd
# awk -F: '{ if($3>300) print $0 }' /etc/passwd
# awk -F: '{ if($3>300) {print $0} }' /etc/passwd ==> 推荐做法
# awk -F: '{ if($3>300) {print $3} else{print $1} }' /etc/passwd ==> 推荐做法

算术运算：

+ 加
- 减
* 乘
/ 除
% 模 
^ 幂 

可以在模式中执行计算， awk 都将按浮点数方式执行算术运算

# awk -F: '$3 * 10 > 500' /etc/passwd
# awk -F: '{ if($3*10>500){print $0} }' /etc/passwd ==> 推荐做法

逻辑操作符和复合模式

逻辑操作符 含义     示例
&&       逻辑与    a&&b
||       逻辑或    a||b
!        逻辑非    !a

示例

# awk -F: '$1~/root/ && $3<=15' /etc/passwd 同时满足$1匹配root与$3小于等于15
# awk -F: '$1~/root/ || $3<=15' /etc/passwd 满足$1匹配root或者$3小于等于15
# awk -F: '!($1~/root/ || $3<=15)' /etc/passwd 除了满足$1匹配root或者$3小于等于15以外

范围模式

# awk '/Tom/,/Suzanne/' filename

awk 示例

# awk '/west/' datafile			//匹配west

# awk '/^north/' datafile		//匹配以north开头

# awk '$3 ~ /^north/' datafile  //$3匹配以north开头

# awk '/^(no|so)/' datafile		//整行以no或者so开头

# awk '{print $3,$2}' datafile	//打印$3和$2，输出以空格作为分隔符

# awk '{print $3 $2}' datafile	//打印$3和$2，输出$3和$2挨在一起

# awk '{print $0}' datafile		//输出整行

# awk '{print "Number of fields: "NF}' datafile  //自定义输出NF字段数

# awk '/northeast/{print $3,$2}' datafile		 //匹配northeast才打印$3和$2

# awk '/E/' datafile			   //打印匹配E的行

# awk '/^[ns]/{print $1}' datafile //满足匹配以n或者s开头的行打印$1

# awk '$5 ~ /.[7-9]+/' datafile   //$5匹配.后面跟上1到多个7-9的数字

# awk '$2 !~ /E/{print $1,$2}' datafile //$2不匹配E，打印$1和$2

# awk '$3 ~ /^Joel/{print $3 " is a nice boy."}' datafile //$3匹配以Joel开头，自定义输出

# awk '$8 ~ /[0-9][0-9]$/{print $8}' datafile //$8匹配以两个数字结束，打印$8

# awk '$4 ~ /Chin$/{print "The price is $" $8 "."}' datafile //$4匹配以Chin结
束，自定义输出

# awk '/Tj/{print $0}' datafile 	//匹配Tj打印整行

# awk '{print $1}' /etc/passwd		//输出/etc/passwd的每一行（未指定分隔符）

# awk -F: '{print $1}' /etc/passwd  //以:分隔，打印$1

# awk '{print "Number of fields: "NF}' /etc/passwd		//未指定分隔符，NF=1

# awk -F: '{print "Number of fields: "NF}' /etc/passwd  //此处指定分隔符:，NF=1

# awk -F"[ :]" '{print NF}' /etc/passwd		//以空格或者:作为分隔符，打印NF，NF=7
# awk -F"[ :]+" '{print NF}' /etc/passwd		//以空格或者一到多个:作为分隔符

# awk '$7 == 5' datafile					//满足$7等于5打印

# awk '$2 == "CT" {print $1, $2}' datafile	//满足$2等于CT，打印$1,$2

# awk '$7 != 5' datafile					//满足$7不等于5打印

`lab3`:
[root@yang ~]# cat b.txt
yang sheng:is a:good boy!
[root@yang ~]# awk '{print NF}' b.txt
4
[root@yang ~]# awk -F: '{print NF}' b.txt
3
[root@yang ~]# awk -F"[ :]" '{print NF}' b.txt
6
[root@yang ~]# cat c.txt
111 222:::yy:::333 444:555:666
[root@yang ~]# awk '{print NF}' c.txt
3
[root@yang ~]# awk -F: '{print NF}' b.txt
9
[root@yang ~]# awk -F"[ :]" '{print NF}' b.txt
11
[root@yang ~]# awk -F"[ :]+" '{print NF}' b.txt
7



# awk '$7 < 5 {print $4, $7}' datafile  //{if($7<5){print $4, $7}}
# awk '$6 > .9 {print $1,$6}' datafile
# awk '$8 <= 17 {print $8}' datafile
# awk '$8 >= 17 {print $8}' datafile
# awk '$8 > 10 && $8 < 17' datafile
# awk '$2 == "NW" || $1 ~ /south/ {print $1, $2}' datafile
# awk '!($8 == 13){print $8}' datafile	//($8 != 13){print $8}
# awk '/southem/{print $5 + 10}' datafile
# awk '/southem/{print $8 + 10}' datafile
# awk '/southem/{print $5 + 10.56}' datafile
# awk '/southem/{print $8 - 10}' datafile
# awk '/southem/{print $8 / 2 }' datafile
# awk '/southem/{print $8 / 3 }' datafile
# awk '/southem/{print $8 * 2 }' datafile
# awk '/southem/{print $8 % 2 }' datafile

# awk '$3 ~ /^Suan/ {print "Percentage: "$6 + .2 " Volume: " $8}' datafile
# awk '/^western/,/^eastern/' datafile
# awk '{print ($7 > 4 ? "high "$7 : "low "$7)}' datafile 	//三目运算符 a?b:c 条件?结果 1:结果 2
# awk '$3 == "Chris" {$3 = "Christian"; print $0}' datafile //赋值运算符
# awk '/Derek/ {$8+=12; print $8}' datafile //$8 += 12 等价于$8 = $8 + 12
# awk '{$7%=3; print $7}' datafile 			//$7 %= 3 等价于$7 = $7 % 3

awk 脚本编程

条件判断

if 语句

格式

{if(表达式)｛语句;语句;...｝ }

示例

awk -F: '{if($3==0) {print $1 " is administrator."}}' /etc/passwd
awk -F: '{if($3>0 && $3<1000){count++;}} END{print count}' /etc/passwd //统计系统用户数

if...else 语句

格式

{if(表达式)｛语句;语句;...｝ else{语句;语句;...}}

示例

awk -F: '{if($3==0){print $1} else {print $7}}' /etc/passwd
awk -F: '{if($3==0) {count++} else{i++} }' /etc/passwd
awk -F: '{if($3==0){count++} else{i++}} END{print "管理员个数: "count ; print "系统用户数: "i}'
/etc/passwd

if...else if...else 语句

格式

{if(表达式 1)｛语句;语句; ...｝ else if(表达式 2)｛语句;语句; ...｝ else if(表达式 3)｛语句;语句; ...｝ else｛语句;语句; ...｝ }

示例

awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print i; print k; print j}' /etc/passwd
awk -F: '{if($3==0){i++} else if($3>999){k++} else{j++}} END{print "管理员个数: "i; print "普通用个数: "k; print "系统用户: "j}' /etc/passwd

循环

while

[root@tianyun ~]# awk 'BEGIN{ i=1; while(i<=10){print i; i++} }'
[root@tianyun ~]# awk -F: '/^root/{i=1; while(i<=7){print $i; i++}}' /etc/passwd  //将root开头的行的$1到$7每个打印一行
[root@tianyun ~]# awk '{i=1; while(i<=NF){print $i; i++}}' /etc/hosts
[root@tianyun ~]# awk -F: '{i=1; while(i<=10) {print $0; i++}}' /etc/passwd //将每行打印 10 次
[root@tianyun ~]# cat b.txt
111 222
333 444 555
666 777 888 999
[root@tianyun ~]# awk '{i=1; while(i<=NF){print $i; i++}}' b.txt   //分别打印每行的每列
111
222
333
444
555
666
777
888
999

for

[root@tianyun ~]# awk 'BEGIN{for(i=1;i<=5;i++){print i} }' //C 风格 for
1 2 3 4 5
[root@tianyun ~]# awk -F: '{ for(i=1;i<=10;i++) {print $0} }' /etc/passwd //将每行打印 10 次
[root@tianyun ~]# awk -F: '{ for(i=1;i<=NF;i++) {print $i} }' passwd
root
x
0
0
root
/root
/bin/bash
bin
x
1 
1
bin
/bin
/sbin/nologin

数组

# awk -F: '{username[++i]=$1} END{print username[1]}' /etc/passwd
root
# awk -F: '{username[i++]=$1} END{print username[1]}' /etc/passwd
bin
# awk -F: '{username[i++]=$1} END{print username[0]}' /etc/passwd
root

数组遍历

按索引遍历=>推荐

# 注：for(i in 数组名)，变量i是数组索引

# awk -F: '{username[x++]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd

# awk -F: '{username[++x]=$1} END{for(i in username) {print i,username[i]} }' /etc/passwd

按元数个数遍历=>不推荐

# awk -F: '{username[x++]=$1} END{for(i=0;i<x;i++) print i,username[i]}' /etc/passwd

# awk -F: '{username[++x]=$1} END{for(i=1;i<=x;i++) print i,username[i]}' /etc/passwd

awk 练习

`思路：将需要统计的内容（某一个字段）作为数组的索引 ++`

1.统计/etc/passwd 中各种类型 shell 的数量
[root@tianyun ~]# awk -F: '{shells[$NF]++} END{ for(i in shells){print i,shells[i]} }' /etc/passwd

2.网站访问状态统计 <当前时实状态 netstat>
[root@tianyun ~]# netstat -ant |grep :80 |awk '{access_stat[$NF]++} END{for(i in access_stat ){print i,access_stat[i]}}'
TIME_WAIT 1064
ESTABLISHED 1
LISTEN 1
[root@tianyun ~]# netstat -ant |grep :80 |awk '{access_stat[$NF]++} END{for(i in access_stat ){print i,access_stat[i]}}' |sort -k2 -n |head
[root@tianyun ~]# ss -an |grep :80 |awk '{access_stat[$2]++} END{for(i in access_stat){print i,access_stat[i]}}'
LISTEN 1
ESTAB 5
TIME-WAIT 97
[root@tianyun ~]# ss -an |grep :80 |awk '{access_stat[$2]++} END{for(i in access_stat){print i,access_stat[i]}}' |sort -k2 -rn
TIME-WAIT 18
ESTAB 8
LISTEN 1

3.统计当前访问的每个 IP 的数量 <当前时实状态 netstat,ss>
[root@tianyun ~]# netstat -ant |grep :80 |awk -F: '{ip_count[$8]++} END{for(i in ip_count){print i,ip_count[i]} }' |sort
172.16.130.16 289
172.16.130.33 254
172.16.130.44 158
172.16.130.99 4

[root@tianyun ~]# ss -an |grep :80 |awk -F":" '!/LISTEN/{ip_count[$(NF-1)]++} END{for(i in ip_count){print i,ip_count[i]}}' |sort -k2 -rn |head
172.16.160.77 59
172.16.160.221 16
172.16.160.17 11
172.16.160.69 8
172.16.160.51 7
172.16.160.49 7
172.16.160.13 7
172.16.160.153 3
172.16.160.79 2
172.16.160.52 2

4.统计 Apache/Nginx 日志中某一天的 PV 量 <统计日志>
[root@tianyun nginx_log]# grep '07/Aug/2012' access.log |wc -l
14519

5.统计 Apache/Nginx 日志中某一天不同 IP 的访问量 <统计日志>
[root@tianyun nginx_log]# grep '07/Aug/2012' access.log |awk '{ips[$1]++} END{for(i in ips){print i,ips[i]} }' |sort -k2 -rn |head
222.130.129.42 5761
123.126.51.94 988
123.126.68.22 588
123.114.46.141 418
61.135.249.218 368
110.75.173.162 330
110.75.173.163 327
110.75.173.161 321
110.75.173.160 319
110.75.173.164 314
[root@tianyun nginx_log]# grep '07/Aug/2012' access.log |awk '{ips[$1]++} END{for(i in ips){print i,ips[i]} }' |awk '$2>100' |sort -k2 -rn
// 可以改写成 grep '07/Aug/2012' access.log |awk '{ips[$1]++} END{for(i in ips){if(ips[i]>2){print i,ips[i]}}}' | sort -k2 -rn
222.130.129.42 5761
123.126.51.94 988
123.126.68.22 588
123.114.46.141 418
61.135.249.218 368
110.75.173.162 330
110.75.173.163 327
110.75.173.161 321
110.75.173.160 319
110.75.173.164 314

awk 函数 统计用户名为 4 个字符的用户：
length函数
[root@tianyun ~]# awk -F: '$1~/^....$/{count++; print $1} END{print "count is: " count}'
/etc/passwd
root
sync
halt
mail
news
uucp
nscd
vcsa
pcap
sshd
dbus
jack
count is: 12
[root@tianyun ~]# awk -F: 'length($1)==4{count++; print $1} END{print "count is: "count}'
/etc/passwd
root
sync
halt
mail
news
uucp
nscd
vcsa
pcap
sshd
dbus
jack
count is: 12

awk 自定义变量：
函数内使用自定义变量
gsub函数
方法1: 在双引号情况下使用: "$变量名"
[root@tianyun ~]# var="bash"
[root@tianyun ~]# echo "unix script" | awk "gsub(/unix/,"$var")"
bash script
方法2: 在单引号情况下使用: "'"$变量名"'"
[root@tianyun ~]# var="bash"
[root@tianyun ~]# echo "unix script" | awk 'gsub(/unix/,"'"$var"'")'
bash script

函数外使用自定义变量
方法3: 在单引号情况下使用: '''$变量名'''

[root@hadoop04 ~]# df -h
Filesystem               Size  Used Avail Use% Mounted on
/dev/mapper/centos-root   46G  6.8G   39G  15% /
devtmpfs                 1.9G  4.0K  1.9G   1% /dev
tmpfs                    1.9G     0  1.9G   0% /dev/shm
tmpfs                    1.9G   72M  1.8G   4% /run
tmpfs                    1.9G     0  1.9G   0% /sys/fs/cgroup
/dev/sda1               1014M  145M  870M  15% /boot
tmpfs                    379M     0  379M   0% /run/user/1001
tmpfs                    379M     0  379M   0% /run/user/0
[root@hadoop04 ~]# df -h | awk '{if(int($5)>10){print $6":"$5}}'
/:15%
/boot:15%

[root@hadoop04 ~]# i=10
[root@hadoop04 ~]# df -h | awk '{if(int($5)>'''$i'''){print $6":"$5}}'
/:15%
/boot:15%



方法4: awk 参数-v=>`推荐`

[root@hadoop04 ~]# echo "unix script" | awk -v var="bash" 'gsub(/unix/,var)'
bash script


[root@tianyun ~]# awk -v user=root -F: '$1 == user' /etc/passwd
root:x:0:0:root:/root:/bin/bash
[root@tianyun apache_log]# awk -v user=root -F: '$1 == "user" {print $0}' /etc/passwd