• 常见的爬虫分析库（3）-Python正则表达式与re模块

    在线正则表达式测试

    http://tool.oschina.net/regex/

    常见匹配模式

    模式描述
    w 匹配字母数字及下划线
    W 匹配非字母数字下划线
    s 匹配任意空白字符，等价于 [ f].
    S 匹配任意非空字符
    d 匹配任意数字，等价于 [0-9]
    D 匹配任意非数字
    A 匹配字符串开始
     匹配字符串结束，如果是存在换行，只匹配到换行前的结束字符串
    z 匹配字符串结束
    G 匹配最后匹配完成的位置
    匹配一个换行符
    匹配一个制表符
    ^ 匹配字符串的开头
    $ 匹配字符串的末尾。
    . 匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符。
    [...] 用来表示一组字符,单独列出：[amk] 匹配 'a'，'m'或'k'
    [^...] 不在[]中的字符：[^abc] 匹配除了a,b,c之外的字符。
    * 匹配0个或多个的表达式。
    + 匹配1个或多个的表达式。
    ? 匹配0个或1个由前面的正则表达式定义的片段，非贪婪方式
    {n} 精确匹配n个前面表达式。
    {n, m} 匹配 n 到 m 次由前面的正则表达式定义的片段，贪婪方式
    a|b 匹配a或b
    ( ) 匹配括号内的表达式，也表示一个组

    re.match

    re.match 尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配成功的话，match()就返回none。

    1
    re.match(pattern, string, flags=0)

    最常规的匹配

    1
    2
    3
    4
    5
    6
    7
    8
    import re
     
    content = 'Hello 123 4567 World_This is a Regex Demo'
    print(len(content))
    result = re.match('^Hellosdddsd{4}sw{10}.*Demo$', content)
    print(result)
    print(result.group())
    print(result.span())
    		 
    41
<_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

    泛匹配

    1
    2
    3
    4
    5
    6
    7
    import re
     
    content = 'Hello 123 4567 World_This is a Regex Demo'
    result = re.match('^Hello.*Demo$', content)
    print(result)
    print(result.group())
    print(result.span())
    		 
    <_sre.SRE_Match object; span=(0, 41), match='Hello 123 4567 World_This is a Regex Demo'>
Hello 123 4567 World_This is a Regex Demo
(0, 41)

    匹配目标

    1
    2
    3
    4
    5
    6
    7
    import re
     
    content = 'Hello 1234567 World_This is a Regex Demo'
    result = re.match('^Hellos(d+)sWorld.*Demo$', content)
    print(result)
    print(result.group(1))
    print(result.span())
    		 
    <_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567
(0, 40)

    贪婪匹配

    1
    2
    3
    4
    5
    6
    import re
     
    content = 'Hello 1234567 World_This is a Regex Demo'
    result = re.match('^He.*(d+).*Demo$', content)
    print(result)
    print(result.group(1))
    		 
    <_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
7

    非贪婪匹配

    1
    2
    3
    4
    5
    6
    import re
     
    content = 'Hello 1234567 World_This is a Regex Demo'
    result = re.match('^He.*?(d+).*Demo$', content)
    print(result)
    print(result.group(1))
    		 
    <_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This is a Regex Demo'>
1234567

    匹配模式

    1
    2
    3
    4
    5
    6
    7
    import re
     
    content = '''Hello 1234567 World_This
    is a Regex Demo
    '''
    result = re.match('^He.*?(d+).*?Demo$', content, re.S)
    print(result.group(1))
    		 
    1234567

    转义

    1
    2
    3
    4
    5
    import re
     
    content = 'price is $5.00'
    result = re.match('price is $5.00', content)
    print(result)
    		 
    None
    1
    2
    3
    4
    5
    import re
     
    content = 'price is $5.00'
    result = re.match('price is $5.00', content)
    print(result)
    		 
    <_sre.SRE_Match object; span=(0, 14), match='price is $5.00'>

    总结：尽量使用泛匹配、使用括号得到匹配目标、尽量使用非贪婪模式、有换行符就用re.S

    re.search

    re.search 扫描整个字符串并返回第一个成功的匹配。

    1
    2
    3
    4
    5
    import re
     
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    result = re.match('Hello.*?(d+).*?Demo', content)
    print(result)
    		 
    None
    1
    2
    3
    4
    5
    6
    import re
     
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    result = re.search('Hello.*?(d+).*?Demo', content)
    print(result)
    print(result.group(1))
    		 
    <_sre.SRE_Match object; span=(13, 53), match='Hello 1234567 World_This is a Regex Demo'>
1234567

    总结：为匹配方便，能用search就不用match

    匹配演练

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君"><i class="fa fa-user"></i>但愿人长久</a>
            </li>
        </ul>
    </div>'''
    result = re.search('<li.*?active.*?singer="(.*?)">(.*?)</a>', html, re.S)
    if result:
        print(result.group(1), result.group(2))
    		 
    齐秦 往事随风
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
            </li>
        </ul>
    </div>'''
    result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
    if result:
        print(result.group(1), result.group(2))
    		 
    任贤齐 沧海一声笑
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
            </li>
        </ul>
    </div>'''
    result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html)
    if result:
        print(result.group(1), result.group(2))
    		 
    beyond 光辉岁月

    re.findall

    搜索字符串，以列表形式返回全部能匹配的子串。

    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
            </li>
        </ul>
    </div>'''
    results = re.findall('<li.*?href="(.*?)".*?singer="(.*?)">(.*?)</a>', html, re.S)
    print(results)
    print(type(results))
    for result in results:
        print(result)
        print(result[0], result[1], result[2])
     output
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
            </li>
        </ul>
    </div>'''
    results = re.findall('<li.*?>s*?(<a.*?>)?(w+)(</a>)?s*?</li>', html, re.S)
    print(results)
    for result in results:
        print(result[1])
     output

    re.sub

    替换字符串中每一个匹配的子串后返回替换后的字符串。

    1
    2
    3
    4
    5
    import re
     
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('d+', '', content)
    print(content)
    		 
    Extra stings Hello  World_This is a Regex Demo Extra stings
    1
    2
    3
    4
    5
    import re
     
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('d+', 'Replacement', content)
    print(content)
    		 
    Extra stings Hello Replacement World_This is a Regex Demo Extra stings
    1
    2
    3
    4
    5
    import re
     
    content = 'Extra stings Hello 1234567 World_This is a Regex Demo Extra stings'
    content = re.sub('(d+)', r'1 8910', content)
    print(content)
    		 
    Extra stings Hello 1234567 8910 World_This is a Regex Demo Extra stings
    1
    2
    3
    4
    5
    6
    7
    8
    9
    10
    11
    12
    13
    14
    15
    16
    17
    18
    19
    20
    21
    22
    23
    24
    25
    26
    27
    28
    import re
     
    html = '''<div id="songs-list">
        <h2 class="title">经典老歌</h2>
        <p class="introduction">
            经典老歌列表
        </p>
        <ul id="list" class="list-group">
            <li data-view="2">一路上有你</li>
            <li data-view="7">
                <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
            </li>
            <li data-view="4" class="active">
                <a href="/3.mp3" singer="齐秦">往事随风</a>
            </li>
            <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
            <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
            <li data-view="5">
                <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
            </li>
        </ul>
    </div>'''
    html = re.sub('<a.*?>|</a>', '', html)
    print(html)
    results = re.findall('<li.*?>(.*?)</li>', html, re.S)
    print(results)
    for result in results:
        print(result.strip())
     output

    re.compile

    将正则字符串编译成正则表达式对象

    将一个正则表达式串编译成正则对象，以便于复用该匹配模式:

    1
    2
    3
    4
    5
    6
    7
    8
    import re
     
    content = '''Hello 1234567 World_This
    is a Regex Demo'''
    pattern = re.compile('Hello.*Demo', re.S)
    result = re.match(pattern, content)
    #result = re.match('Hello.*Demo', content, re.S)
    print(result)
    		 
    <_sre.SRE_Match object; span=(0, 40), match='Hello 1234567 World_This
is a Regex Demo'>

    实战练习

    源码在git上：https://gitee.com/longlovemeng/Spider.git
  • 相关阅读:
    Permission Denial: opening provider 隐藏的android:exported属性的含义
    GPL & Apache License
    JAVA把毫秒数转换成日期
    Android开发–Intent-filter属性详解
    [转]unix/linux中的dup()系统调用
    【转载】技术的正宗与野路子
    virtualbox -centos ping不通外网
    GNU Make 手册中文版
    Git源码学习
    git-gui
  • 原文地址：https://www.cnblogs.com/yunlongaimeng/p/9802104.html
Copyright © 2020-2023  润新知