• Linux高级命令 ==> find、grep、sed、awk


    一、find

      find命令用来在指定目录下查找文件。如果使用该命令时,不设置任何参数,则find命令将在当前目录下查找子目录与文件。并且将查找到的子目录和文件全部进行显示。

    语法

    find   path   -option   [   -print ]   [ -exec   -ok   command ]   {} ;

    常用选项:

    -name  查找根目录及其子目录下所有以 log 结尾的文件,文件名区分大小写,例如:find / -name '*logf'

    -iname      查找当前目录及其子目录下所有文件名为 test 的文件,文件名不区分大小写,例如:find . -name test

    -user    查找文件所属用户为 mysql 的所有文件,例如:find . -user mysql

    -group      查找文件所属组为 git 的所有文件,例如:find . -group git

    -type    根据类型查找:如下

    • f   文件        find . -type f
    • d  目录        find . -type d
    • c  字符设备文件    find . -type c
    • b  块设备文件     find . -type b
    • l   链接文件      find . -type l
    • p  管道文件      find . -type p

    -size    根据文件大小查询

    • -n  小于 大小为 n 的文件
    • +n  大于 大小为 n 的文件
    • 查找 /ect 目录下,小于 10000 字节的文件。 find /etc -size +10000c
    • 查找 /etc 目录下,大于 1M 的文件。find /etc -size -1M

    -mtime   根据文件更改时间查找

    • -n   n 天以内修改的文件。
    • +n  n 天以外修改的文件。
    • n    正好 n天 修改的文件
    • 查询 /etc 目录下,5天以内修改 且以 conf 结尾的文件。              find /etc -mtime -5 -name '*.conf'
    • 查询 /etc 目录下,10天之前修改,且属于 yangyang 的文件。  find /etc -mtime +10 -user yangyang

    -mmin  

    • -n  n 分钟以内修改过的文件
    • +n  n 分钟之前修改过的文件
    • 查询 /etc 目录下 30分钟 之前修改过的文件。   find /etc -mmin +30
    • 查询 /etc 目录下 30分钟 之前修改过的目录。   find /etc -mmin -30 -type d

    -mindepth n  从第 n 级目录开始搜索

    • 从 /etc 的第三级子目录开始搜索。  find /etc -mindepth 3

    -maxdepth n  表示至多搜索到第 n-1 级子目录。

    • 在 /etc 中搜索符合条件的文件,但最多搜索到 2级 子目录。  find /etc -maxdepth 3 -name '*.conf'
    • find /etc -type f -name '*.conf' -size +10k -maxdepthc 2

    操作查找到的文件:

    -print  打印输出。 默认的选项,即打印出找到的结果。

    -exec  对搜索到的文件执行特定的操作,固定的格式为:-exec 'commond' {} ;   注意:{} 表示查询的结果。

    • 搜索 /etc 目录下的文件(非目录),文件以 conf 结尾,且大于 10k,然后将其删除。
      • find /etc -type f -name '*.conf' -size +10k -exec rm -f {} ;
    • 将 /data/log/ 目录下以 .log 结尾的文件,且更改时间在 7 天以上的删除。
      • find /data/log -name '*.log' -mtime +7 -exec rm -f ;
    • 搜索条件同 例1 一样,但是不删除,只是将其复制到 /root/conf 目录下
      • find /etc -type f -name '*.conf' -size +10k -exec cp {} /root/conf/ ;

    -ok      和 -exec 的功能一样,只是每次操作都会给用户提示。

    逻辑运算符:

    -a    与  (默认情况查询条件之间都是 与 的关系)

    -o    或

    -not | !  非 

    二、grep

      grep(global search regular expression(RE) and print out the line,全面搜索正则表达式并把行打印出来)是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。

    语法:

    grep [-abcEFGhHilLnqrsvVwxy][-A<显示列数>][-B<显示列数>][-C<显示列数>][-d<进行动作>][-e<范本样式>][-f<范本文件>][--help][范本样式][文件或目录...]

    选项:

    选项 描述
    -a  不要忽略二进制数据
    -A<显示列数> 除了显示符合范本样式的那一行之外,并显示该行之后的内容 
    -b 在显示符合范本样式的那一行之外,并显示该行之前的内容 
    -c 计算符合范本样式的列数 
    -C<显示列数>或-<显示列数> 除了显示符合范本样式的那一列之外,并显示该列之前后的内容 
    -d<进行动作> 当指定要查找的是目录而非文件时,必须使用这项参数,否则grep命令将回报信息并停止动作 
    -e<范本样式> 指定字符串作为查找文件内容的范本样式 
    -E 将范本样式为延伸的普通表示法来使用,意味着使用能使用扩展正则表达式 
    -f<范本文件> 指定范本文件,其内容有一个或多个范本样式,让grep查找符合范本条件的文件内容,格式为每一列的范本样式 
    -F 将范本样式视为固定字符串的列表 
    -G 将范本样式视为普通的表示法来使用 
    -h 在显示符合范本样式的那一列之前,不标示该列所属的文件名称 
    -H 在显示符合范本样式的那一列之前,标示该列的文件名称 
    -i 忽略字符大小写的差别 
    -l 列出文件内容符合指定的范本样式的文件名称 
    -L 列出文件内容不符合指定的范本样式的文件名称 
    -n 在显示符合范本样式的那一列之前,标示出该列的编号 
    -q 不显示任何信息 
    -R/-r 此参数的效果和指定“-d recurse”参数相同 
    -s 不显示错误信息 
    -v 反转查找 
    -w 只显示全字符合的列 
    -x 只显示全列符合的列
    -y 此参数效果跟“-i”相同
    -o 只输出文件中匹配到的部分

    示例:

    # 在文件中搜索一个单词,命令会返回一个包含“match_pattern”的文本行:
    grep match_pattern file_name    
    grep "match_pattern" file_name
    
    # 在多个文件中查找
    grep "match_pattern" file_1 file_2 file_3 ...
    
    # 输出除之外的所有行 -v 选项
    grep -v "match_pattern" file_name
    
    # 使用正则表达式 -E 选项
    grep -E "[1-9]+"
    egrep "[1-9]+"
    
    # 只输出文件中匹配到的部分 -o 选项
    grep -o "match_pattern" file_name
    
    # 统计文件或者文本中包含匹配字符串的行数 -c 选项
    grep -c "text" file_name
    
    # 输出包含匹配字符串的行数 -n 选项
    grep "text" -n file_name
    cat file_name | grep "text" -n
    grep "text" -n file_1 file_2
    
    # 打印样式匹配所位于的字符或字节偏移
    echo gun is not unix | grep -b -o "not"
    
    # 搜索多个文件并查找匹配文本在哪些文件中
    grep -l "text" file1 file2 file3...
    
    # 在多级目录中对文本进行递归搜索
    grep "text" . -r -n
    
    # 忽略匹配样式中的字符大小写
    echo "hello world" | grep -i "HELLO"
    
    # 选项 -e 制动多个匹配样式
    echo this is a text line | grep -e "is" -e "line" -o
    
    #只在目录中所有的.php和.html文件中递归搜索字符"main()"
    grep "main()" . -r --include *.{php,html}
    
    #在搜索结果中排除所有README文件
    grep "main()" . -r --exclude "README"
    
    #在搜索结果中排除filelist文件列表里的文件
    grep "main()" . -r --exclude-from filelist
    
    #不会输出任何信息,如果命令运行成功返回0,失败则返回非0值。一般用于条件测试
    grep -q "test" filename
    
    #显示匹配某个结果之后的3行,使用 -A 选项:
    seq 10 | grep "5" -A 3
    5
    6
    7
    8
    
    #显示匹配某个结果之前的3行,使用 -B 选项:
    seq 10 | grep "5" -B 3
    2
    3
    4
    5
    
    #显示匹配某个结果的前三行和后三行,使用 -C 选项:
    seq 10 | grep "5" -C 3
    2
    3
    4
    5
    6
    7
    8
    
    #如果匹配结果有多个,会用“--”作为各匹配结果之间的分隔符:
    echo -e "a
    b
    c
    a
    b
    c" | grep a -A 1
    a
    b
    --
    a
    b
    grep 示例

    三、sed

    sed 命令是利用脚本来处理文本文件。

    sed 可依照脚本的指令来处理、编辑文本文件。

    Sed 主要用来自动编辑一个或多个文件、简化对文件的反复操作、编写转换程序等。

    语法:

    sed [选项] [脚本命令] 文件名

    选项与参数

    • -n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
    • -e :直接在命令列模式上进行 sed 的动作编辑;
    • -f :直接将 sed 的动作写在一个文件内, -f filename 则可以运行 filename 内的 sed 动作;
    • -r :sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
    • -i :直接修改读取的文件内容,而不是输出到终端。

    动作:

    • a :新增行, a 的后面可以是字串,而这些字串会在新的一行出现(目前的下一行)
    • c :取代行, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行
    • d :删除行,因为是删除,所以 d 后面通常不接任何参数,直接删除地址表示的行;
    • i :插入行, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
    • p :列印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行
    • s :替换,可以直接进行替换的工作,通常这个 s 的动作可以搭配正规表示法,例如 1,20s/old/new/g 一般是替换符合条件的字符串而不是整行

    一般动作的前面会有一个地址的限制,例如 [地址]动作,表示我们的动作要操作的行。下面我们通过具体的例子直观的看看 sed 的使用方法。

    删除行

    // example.txt 内容如下
    11 aa
    22 bb
    33 cc
    23 dd
    55 2e
    
    sed '1,2d' example.txt
    
    输出:
    33 cc
    23 dd
    55 2e

      其中1,2d中的d表示删除,而d前面的表示删除的行的地址,而1,2表示一个地址范围,也就是删除第1行和第2行。地址范围的表示一般是  m,n 表示对m和n行之间的所有行进行操作,也包含第m行和第n行。sed的地址寻址中可以使用$表示最后一行,例如 m,$ 表示对m行以及其后面的所有行进行操作,包括最后一样。m,$d就是删除m行以及其后面的所有行内容。当然我们还可以对某一行进行操作,例如2d表示仅仅删除第2行。除了使用数字范围 m,n 表示多行区间,以及m表示单行以外,我们还可以使用正则表达式选出符合条件的行,并对这些行进行操作,同样的是上面的文件:

    sed '/2/d' example.txt
    
    输出:
    11 aa
    33 cc

      上面的命令中 /2/ 是一个正则表达式,在sed中正则表达式是写在 /.../ 两个斜杠中间的,这个正则的意思是寻找所有包含2的行,执行相应的操作,也就是删除所有包含2的行,如果我们只想删除以2开头的行呢,只需要修改一下正则表达式就可以了:

    sed '/^2/d' example.txt
    
    输出:
    11 aa
    33 cc
    55 2e

    新增行

    sed '1a hello world' example.txt
    
    输出:
    11 aa
    hello world
    22 bb
    33 cc
    23 dd
    55 2e

      其中a命令表示在指定行的后面附加一行,1a则是在第一行的后面添加一行,添加的内容就是a后面的内容,如果a的前面没有地址限定则在所有行的后面都会添加指定的字符串

    sed '1i hello world' example.txt
    
    输出:
    hello world
    11 aa
    22 bb
    33 cc
    23 dd
    55 2e

    命令i表示在指定的行的前面插入一行,插入的内容为其后面的字符串

    替换行

    sed '1c hello world' example.txt
    
    输出:
    hello world
    22 bb
    33 cc
    23 dd
    55 2e

      命令c会替换指定的行的所有内容,替换成其后面的字符串,所有的新增,删除,替换行,这些命令前面的地址修饰都可以指定地址空间,也都可以使用正则表达式,命令会应用在选出的符合地址条件的所有行上面,例如:

    sed '/^2/c hello world' example.txt
    
    输出:
    11 aa
    hello world
    33 cc
    hello world
    55 2e

    替换以2开头的行,其内容是c命令后面的字符串 

    替换部分字符串而不是整行

      sed中除了上面的命令是针对整行进行操作的之外,还提供一个替换命令,该命令对某一行中的部分字符串进行操作,下面举一个简单的例子,还是同样的文本内容,执行下面的命令:

    sed 's/aa/AA/' example.txt
    
    输出:
    11 AA
    22 bb
    33 cc
    23 dd
    55 2e

      我们这里说的就是s命令,执行的结果是我们文件中的 aa 被替换成 AA ,我们看一下s命令后面接的是3个斜杠分隔的两串字符串,其含义是   s/待替换的字符串/新字符串/ 也就是说使用后面的 AA 替换文件中出现的前面的 aa 。实际上这里的替换仅仅替换每一行遇到的第一个aa,我们修改一下文件的内容:

    // example.txt
    11 aa
    22 bb
    33 cc
    23 dd
    55 2e
    66 aaff ccaa
    zz ggaa
    
    sed 's/aa/AA/' example.txt
    
    输出:
    11 AA
    22 bb
    33 cc
    23 dd
    55 2e
    66 AAff ccaa
    zz ggAA

      可以看到第6行的ccaa中的aa是没有被替换的,也就是说此时仅仅替换了每一行搜索到的第一个aa字符串进行操作,那么如果要对一行里面的所有的符合条件的字符串都做替换操作呢,我们可以使用参数g,例如修改命令如下:

    sed 's/aa/AA/g' example.txt
    
    输出:
    11 AA
    22 bb
    33 cc
    23 dd
    55 2e
    66 AAff ccAA
    zz ggAA

      在最后一个斜杠后面加上g选项之后,表示进行全局替换,也就是说一行中所有符合条件的旧字符串都会被替换成新字符串,而不仅仅是第一个。与其他针对行的操作一样,s命令也可以进行地址选择,其地址使用方法与我们之前的一样,也就是在s的前面加上地址空间限定,例如:

    sed '1s/aa/AA/g' example.txt
    
    输出:
    11 AA
    22 bb
    33 cc
    23 dd
    55 2e
    66 aaff ccaa
    zz ggaa

    可以看到仅仅对第一行进行了替换操作,其他的地址限定方法同样也是可以使用的,我们可以使用m,n的限定,例如:

    sed '5,$s/aa/AA/g' example.txt
    
    输出:
    11 aa
    22 bb
    33 cc
    23 dd
    55 2e
    66 AAff ccAA
    zz ggAA

      表示对第5行直到文件末尾的所有行进行搜索替换操作,同样s命令的地址限定也支持使用正则表达式限定符合条件的行,然后在这些行中进行字符串的搜索替换操作,例如:

    sed '/^[0-9]/s/aa/AA/g' example.txt
    
    输出:
    11 AA
    22 bb
    33 cc
    23 dd
    55 2e
    66 AAff ccAA
    zz ggaa

    我们在s命令前面添加了 /^[0-9]/ 这个修饰,该正则表达式表示对所有以数字开头的行,执行s操作

    另外一个要说明的是  s/待替换的字符串/新字符串/ 这种格式中 / 作为分隔符并不是一定的,当使用s命令时候,我们可以使用别的分隔符,实际上s后面紧接着的字符就是分隔符,所以不一定是 / 符号。例如:

    echo 'aabbccaadd' | sed s#aa#AA#g
    
    输出:
    AAbbccAAdd

    这里s命令后面跟着的#符号被当作分隔符了

    搜索并输出行内容

    sed还提供一个p命令用于搜索符合条件的行,并输出该行的内容,而不做其他的任何修改,例如:

    // example.txt
    11 aa
    22 bb
    33 cc
    23 dd
    
    sed '2p' example.txt
    
    输出:
    11 aa
    22 bb
    22 bb
    33 cc
    23 dd

      可以看到第二行被输出来了,但是sed好像将文件的所有内容输出了一遍,而第2行则多输出了一次,实际上sed默认情况下是会将所有标准输入的数据又重新输出到标准输出的,我们可以加上 -n 选项让sed仅仅是输出经过处理之后的那些行,而不是输出之前从标准输入中获取到的所有行内容,例如:

    sed -n '2p' example.txt
    
    输出:
    22 bb

      这样仅仅会输出p命令的处理结果了,-n 选项一般是与p命令联合使用的,其他的增加,删除,替换行的命令是不需要 -n 选项的

    将修改应用到文件当中

    我们之前做的所有实验,实际上都没有修改test.txt文件的内容,也就是说我们看到的修改结果仅仅输出到控制台上,而文件test.txt的内容是没有修改的,我们可以使用 -i 选项告诉sed直接修改文件的内容,而不是将修改结果输出到终端上,例如:

    sed -i '2d' example.txt 

    命令运行之后,我们发现example.txt的第2行没有了

    sed正则中的元字符

    我们知道sed中的命令前面可以使用地址范围进行限制,表示对文件的某些符合条件的行执行相应的操作,其中我们可以使用正则表达式选出要操作的行,而sed中正则的语法可能与我们其他命令的正则语法有一些不同,这里我们有必要列出sed中常用的正则元字符:

    $ 表示行尾
    ^ 表示行首
    [a-z0-9]表示字符范围
    [^]表示除了字符集中的字符以外的字符
    
    sed的正则中  ()  和 {m,n} 需要转义 
    . 表示任意字符 
    * 表示零个或者多个 
    + 一次或多次  
    ? 零次或一次    
    | 表示或语法

    四、awk

    https://www.cnblogs.com/wangqiguo/p/5863266.html (转) 

    五、grep、sed、awk总结

    • grep:适合单纯的查找或匹配文本;
    • sed:适合对匹配到的文本进行编辑;
    • awk:适合对文本进行较复杂的格式化处理;
  • 相关阅读:
    面向对象的软件测试技术
    软件质量与软件测试
    测试方法
    测试计划的编写
    Monkey环境配置
    简单非线性关系数据集测试
    支持向量机
    最邻近规则分类
    Django1.9开发博客(14)- 集成Xadmin
    决策树
  • 原文地址:https://www.cnblogs.com/L-Test/p/11801789.html
Copyright © 2020-2023  润新知