一、find
find命令用来在指定目录下查找文件。如果使用该命令时,不设置任何参数,则find命令将在当前目录下查找子目录与文件。并且将查找到的子目录和文件全部进行显示。
语法
find path -option [ -print ] [ -exec -ok command ] {} ;
常用选项:
-name 查找根目录及其子目录下所有以 log 结尾的文件,文件名区分大小写,例如:find / -name '*logf'
-iname 查找当前目录及其子目录下所有文件名为 test 的文件,文件名不区分大小写,例如:find . -name test
-user 查找文件所属用户为 mysql 的所有文件,例如:find . -user mysql
-group 查找文件所属组为 git 的所有文件,例如:find . -group git
-type 根据类型查找:如下
- f 文件 find . -type f
- d 目录 find . -type d
- c 字符设备文件 find . -type c
- b 块设备文件 find . -type b
- l 链接文件 find . -type l
- p 管道文件 find . -type p
-size 根据文件大小查询
- -n 小于 大小为 n 的文件
- +n 大于 大小为 n 的文件
- 查找 /ect 目录下,小于 10000 字节的文件。 find /etc -size +10000c
- 查找 /etc 目录下,大于 1M 的文件。find /etc -size -1M
-mtime 根据文件更改时间查找
- -n n 天以内修改的文件。
- +n n 天以外修改的文件。
- n 正好 n天 修改的文件
- 查询 /etc 目录下,5天以内修改 且以 conf 结尾的文件。 find /etc -mtime -5 -name '*.conf'
- 查询 /etc 目录下,10天之前修改,且属于 yangyang 的文件。 find /etc -mtime +10 -user yangyang
-mmin
- -n n 分钟以内修改过的文件
- +n n 分钟之前修改过的文件
- 查询 /etc 目录下 30分钟 之前修改过的文件。 find /etc -mmin +30
- 查询 /etc 目录下 30分钟 之前修改过的目录。 find /etc -mmin -30 -type d
-mindepth n 从第 n 级目录开始搜索
- 从 /etc 的第三级子目录开始搜索。 find /etc -mindepth 3
-maxdepth n 表示至多搜索到第 n-1 级子目录。
- 在 /etc 中搜索符合条件的文件,但最多搜索到 2级 子目录。 find /etc -maxdepth 3 -name '*.conf'
- find /etc -type f -name '*.conf' -size +10k -maxdepthc 2
操作查找到的文件:
-print 打印输出。 默认的选项,即打印出找到的结果。
-exec 对搜索到的文件执行特定的操作,固定的格式为:-exec 'commond' {} ; 注意:{} 表示查询的结果。
- 搜索 /etc 目录下的文件(非目录),文件以 conf 结尾,且大于 10k,然后将其删除。
- find /etc -type f -name '*.conf' -size +10k -exec rm -f {} ;
- 将 /data/log/ 目录下以 .log 结尾的文件,且更改时间在 7 天以上的删除。
- find /data/log -name '*.log' -mtime +7 -exec rm -f ;
- 搜索条件同 例1 一样,但是不删除,只是将其复制到 /root/conf 目录下
- find /etc -type f -name '*.conf' -size +10k -exec cp {} /root/conf/ ;
-ok 和 -exec 的功能一样,只是每次操作都会给用户提示。
逻辑运算符:
-a 与 (默认情况查询条件之间都是 与 的关系)
-o 或
-not | ! 非
二、grep
grep(global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。
语法:
grep [-abcEFGhHilLnqrsvVwxy][-A<显示列数>][-B<显示列数>][-C<显示列数>][-d<进行动作>][-e<范本样式>][-f<范本文件>][--help][范本样式][文件或目录...]
选项:
选项 | 描述 |
-a | 不要忽略二进制数据 |
-A<显示列数> | 除了显示符合范本样式的那一行之外,并显示该行之后的内容 |
-b | 在显示符合范本样式的那一行之外,并显示该行之前的内容 |
-c | 计算符合范本样式的列数 |
-C<显示列数>或-<显示列数> | 除了显示符合范本样式的那一列之外,并显示该列之前后的内容 |
-d<进行动作> | 当指定要查找的是目录而非文件时,必须使用这项参数,否则grep命令将回报信息并停止动作 |
-e<范本样式> | 指定字符串作为查找文件内容的范本样式 |
-E | 将范本样式为延伸的普通表示法来使用,意味着使用能使用扩展正则表达式 |
-f<范本文件> | 指定范本文件,其内容有一个或多个范本样式,让grep查找符合范本条件的文件内容,格式为每一列的范本样式 |
-F | 将范本样式视为固定字符串的列表 |
-G | 将范本样式视为普通的表示法来使用 |
-h | 在显示符合范本样式的那一列之前,不标示该列所属的文件名称 |
-H | 在显示符合范本样式的那一列之前,标示该列的文件名称 |
-i | 忽略字符大小写的差别 |
-l | 列出文件内容符合指定的范本样式的文件名称 |
-L | 列出文件内容不符合指定的范本样式的文件名称 |
-n | 在显示符合范本样式的那一列之前,标示出该列的编号 |
-q | 不显示任何信息 |
-R/-r | 此参数的效果和指定“-d recurse”参数相同 |
-s | 不显示错误信息 |
-v | 反转查找 |
-w | 只显示全字符合的列 |
-x | 只显示全列符合的列 |
-y | 此参数效果跟“-i”相同 |
-o | 只输出文件中匹配到的部分 |
示例:
# 在文件中搜索一个单词,命令会返回一个包含“match_pattern”的文本行: grep match_pattern file_name grep "match_pattern" file_name # 在多个文件中查找 grep "match_pattern" file_1 file_2 file_3 ... # 输出除之外的所有行 -v 选项 grep -v "match_pattern" file_name # 使用正则表达式 -E 选项 grep -E "[1-9]+" egrep "[1-9]+" # 只输出文件中匹配到的部分 -o 选项 grep -o "match_pattern" file_name # 统计文件或者文本中包含匹配字符串的行数 -c 选项 grep -c "text" file_name # 输出包含匹配字符串的行数 -n 选项 grep "text" -n file_name cat file_name | grep "text" -n grep "text" -n file_1 file_2 # 打印样式匹配所位于的字符或字节偏移 echo gun is not unix | grep -b -o "not" # 搜索多个文件并查找匹配文本在哪些文件中 grep -l "text" file1 file2 file3... # 在多级目录中对文本进行递归搜索 grep "text" . -r -n # 忽略匹配样式中的字符大小写 echo "hello world" | grep -i "HELLO" # 选项 -e 制动多个匹配样式 echo this is a text line | grep -e "is" -e "line" -o #只在目录中所有的.php和.html文件中递归搜索字符"main()" grep "main()" . -r --include *.{php,html} #在搜索结果中排除所有README文件 grep "main()" . -r --exclude "README" #在搜索结果中排除filelist文件列表里的文件 grep "main()" . -r --exclude-from filelist #不会输出任何信息,如果命令运行成功返回0,失败则返回非0值。一般用于条件测试 grep -q "test" filename #显示匹配某个结果之后的3行,使用 -A 选项: seq 10 | grep "5" -A 3 5 6 7 8 #显示匹配某个结果之前的3行,使用 -B 选项: seq 10 | grep "5" -B 3 2 3 4 5 #显示匹配某个结果的前三行和后三行,使用 -C 选项: seq 10 | grep "5" -C 3 2 3 4 5 6 7 8 #如果匹配结果有多个,会用“--”作为各匹配结果之间的分隔符: echo -e "a b c a b c" | grep a -A 1 a b -- a b
三、sed
sed 命令是利用脚本来处理文本文件。
sed 可依照脚本的指令来处理、编辑文本文件。
Sed 主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等。
语法:
sed [选项] [脚本命令] 文件名
选项与参数
- -n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
- -e :直接在命令列模式上进行 sed 的动作编辑;
- -f :直接将 sed 的动作写在一个文件内, -f filename 则可以运行 filename 内的 sed 动作;
- -r :sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
- -i :直接修改读取的文件内容,而不是输出到终端。
动作:
- a :新增行, a 的后面可以是字串,而这些字串会在新的一行出现(目前的下一行)
- c :取代行, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行
- d :删除行,因为是删除,所以 d 后面通常不接任何参数,直接删除地址表示的行;
- i :插入行, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
- p :列印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行
- s :替换,可以直接进行替换的工作,通常这个 s 的动作可以搭配正规表示法,例如 1,20s/old/new/g 一般是替换符合条件的字符串而不是整行
一般动作的前面会有一个地址的限制,例如 [地址]动作,表示我们的动作要操作的行。下面我们通过具体的例子直观的看看 sed 的使用方法。
删除行
// example.txt 内容如下 11 aa 22 bb 33 cc 23 dd 55 2e sed '1,2d' example.txt 输出: 33 cc 23 dd 55 2e
其中1,2d中的d表示删除,而d前面的表示删除的行的地址,而1,2表示一个地址范围,也就是删除第1行和第2行。地址范围的表示一般是 m,n 表示对m和n行之间的所有行进行操作,也包含第m行和第n行。sed的地址寻址中可以使用$表示最后一行,例如 m,$ 表示对m行以及其后面的所有行进行操作,包括最后一样。m,$d就是删除m行以及其后面的所有行内容。当然我们还可以对某一行进行操作,例如2d表示仅仅删除第2行。除了使用数字范围 m,n 表示多行区间,以及m表示单行以外,我们还可以使用正则表达式选出符合条件的行,并对这些行进行操作,同样的是上面的文件:
sed '/2/d' example.txt 输出: 11 aa 33 cc
上面的命令中 /2/ 是一个正则表达式,在sed中正则表达式是写在 /.../ 两个斜杠中间的,这个正则的意思是寻找所有包含2的行,执行相应的操作,也就是删除所有包含2的行,如果我们只想删除以2开头的行呢,只需要修改一下正则表达式就可以了:
sed '/^2/d' example.txt 输出: 11 aa 33 cc 55 2e
新增行
sed '1a hello world' example.txt 输出: 11 aa hello world 22 bb 33 cc 23 dd 55 2e
其中a命令表示在指定行的后面附加一行,1a则是在第一行的后面添加一行,添加的内容就是a后面的内容,如果a的前面没有地址限定则在所有行的后面都会添加指定的字符串
sed '1i hello world' example.txt 输出: hello world 11 aa 22 bb 33 cc 23 dd 55 2e
命令i表示在指定的行的前面插入一行,插入的内容为其后面的字符串
替换行
sed '1c hello world' example.txt 输出: hello world 22 bb 33 cc 23 dd 55 2e
命令c会替换指定的行的所有内容,替换成其后面的字符串,所有的新增,删除,替换行,这些命令前面的地址修饰都可以指定地址空间,也都可以使用正则表达式,命令会应用在选出的符合地址条件的所有行上面,例如:
sed '/^2/c hello world' example.txt 输出: 11 aa hello world 33 cc hello world 55 2e
替换以2开头的行,其内容是c命令后面的字符串
替换部分字符串而不是整行
sed中除了上面的命令是针对整行进行操作的之外,还提供一个替换命令,该命令对某一行中的部分字符串进行操作,下面举一个简单的例子,还是同样的文本内容,执行下面的命令:
sed 's/aa/AA/' example.txt 输出: 11 AA 22 bb 33 cc 23 dd 55 2e
我们这里说的就是s命令,执行的结果是我们文件中的 aa 被替换成 AA ,我们看一下s命令后面接的是3个斜杠分隔的两串字符串,其含义是 s/待替换的字符串/新字符串/ 也就是说使用后面的 AA 替换文件中出现的前面的 aa 。实际上这里的替换仅仅替换每一行遇到的第一个aa,我们修改一下文件的内容:
// example.txt 11 aa 22 bb 33 cc 23 dd 55 2e 66 aaff ccaa zz ggaa sed 's/aa/AA/' example.txt 输出: 11 AA 22 bb 33 cc 23 dd 55 2e 66 AAff ccaa zz ggAA
可以看到第6行的ccaa中的aa是没有被替换的,也就是说此时仅仅替换了每一行搜索到的第一个aa字符串进行操作,那么如果要对一行里面的所有的符合条件的字符串都做替换操作呢,我们可以使用参数g,例如修改命令如下:
sed 's/aa/AA/g' example.txt 输出: 11 AA 22 bb 33 cc 23 dd 55 2e 66 AAff ccAA zz ggAA
在最后一个斜杠后面加上g选项之后,表示进行全局替换,也就是说一行中所有符合条件的旧字符串都会被替换成新字符串,而不仅仅是第一个。与其他针对行的操作一样,s命令也可以进行地址选择,其地址使用方法与我们之前的一样,也就是在s的前面加上地址空间限定,例如:
sed '1s/aa/AA/g' example.txt 输出: 11 AA 22 bb 33 cc 23 dd 55 2e 66 aaff ccaa zz ggaa
可以看到仅仅对第一行进行了替换操作,其他的地址限定方法同样也是可以使用的,我们可以使用m,n的限定,例如:
sed '5,$s/aa/AA/g' example.txt 输出: 11 aa 22 bb 33 cc 23 dd 55 2e 66 AAff ccAA zz ggAA
表示对第5行直到文件末尾的所有行进行搜索替换操作,同样s命令的地址限定也支持使用正则表达式限定符合条件的行,然后在这些行中进行字符串的搜索替换操作,例如:
sed '/^[0-9]/s/aa/AA/g' example.txt 输出: 11 AA 22 bb 33 cc 23 dd 55 2e 66 AAff ccAA zz ggaa
我们在s命令前面添加了 /^[0-9]/ 这个修饰,该正则表达式表示对所有以数字开头的行,执行s操作
另外一个要说明的是 s/待替换的字符串/新字符串/ 这种格式中 / 作为分隔符并不是一定的,当使用s命令时候,我们可以使用别的分隔符,实际上s后面紧接着的字符就是分隔符,所以不一定是 / 符号。例如:
echo 'aabbccaadd' | sed s#aa#AA#g 输出: AAbbccAAdd
这里s命令后面跟着的#符号被当作分隔符了
搜索并输出行内容
sed还提供一个p命令用于搜索符合条件的行,并输出该行的内容,而不做其他的任何修改,例如:
// example.txt 11 aa 22 bb 33 cc 23 dd sed '2p' example.txt 输出: 11 aa 22 bb 22 bb 33 cc 23 dd
可以看到第二行被输出来了,但是sed好像将文件的所有内容输出了一遍,而第2行则多输出了一次,实际上sed默认情况下是会将所有标准输入的数据又重新输出到标准输出的,我们可以加上 -n 选项让sed仅仅是输出经过处理之后的那些行,而不是输出之前从标准输入中获取到的所有行内容,例如:
sed -n '2p' example.txt 输出: 22 bb
这样仅仅会输出p命令的处理结果了,-n 选项一般是与p命令联合使用的,其他的增加,删除,替换行的命令是不需要 -n 选项的
将修改应用到文件当中
我们之前做的所有实验,实际上都没有修改test.txt文件的内容,也就是说我们看到的修改结果仅仅输出到控制台上,而文件test.txt的内容是没有修改的,我们可以使用 -i 选项告诉sed直接修改文件的内容,而不是将修改结果输出到终端上,例如:
sed -i '2d' example.txt
命令运行之后,我们发现example.txt的第2行没有了
sed正则中的元字符
我们知道sed中的命令前面可以使用地址范围进行限制,表示对文件的某些符合条件的行执行相应的操作,其中我们可以使用正则表达式选出要操作的行,而sed中正则的语法可能与我们其他命令的正则语法有一些不同,这里我们有必要列出sed中常用的正则元字符:
$ 表示行尾 ^ 表示行首 [a-z0-9]表示字符范围 [^]表示除了字符集中的字符以外的字符 sed的正则中 () 和 {m,n} 需要转义 . 表示任意字符 * 表示零个或者多个 + 一次或多次 ? 零次或一次 | 表示或语法
四、awk
https://www.cnblogs.com/wangqiguo/p/5863266.html (转)
五、grep、sed、awk总结
- grep:适合单纯的查找或匹配文本;
- sed:适合对匹配到的文本进行编辑;
- awk:适合对文本进行较复杂的格式化处理;