• 爬虫之xpath选择器的使用


    XPath 简介

    XPath 是一门在 XML 文档中查找信息的语言。

    # xpath: XPath 是一门在 XML 文档中查找信息的语言
    # / :从根节点选取。
    # // :不管位置,直接找
    # /@属性名
    # /text()
    # 会复制()

    xpath

    # pip3 install lxml

    基本使用

    doc = '''
    <html>
     <head>
      <base href='http://example.com/' />
      <title>Example website</title>
     </head>
     <body>
      <div id='images'>
       <a href='image1.html' aa='bb'>Name: My image 1 <br /><img src='image1_thumb.jpg' /></a>
       <a href='image2.html'>Name: My image 2 <br /><img src='image2_thumb.jpg' /></a>
       <a href='image3.html'>Name: My image 3 <br /><img src='image3_thumb.jpg' /></a>
       <a href='image4.html'>Name: My image 4 <br /><img src='image4_thumb.jpg' /></a>
       <a href='image5.html' class='li li-item' name='items'>Name: My image 5 <br /><img src='image5_thumb.jpg' /></a>
       <a href='image6.html' name='items'><span><h5>test</h5></span>Name: My image 6 <br /><img src='image6_thumb.jpg' /></a>
      </div>
     </body>
    </html>
    '''
    from lxml import etree
    
    html = etree.HTML(doc)
    # html=etree.parse('search.html',etree.HTMLParser())
    # 1 所有节点
    # a=html.xpath('//*')  # 一个对象列表
    
    # 2 指定节点(结果为列表)
    # a=html.xpath('//head')
    
    # 3 子节点,子孙节点
    # a = html.xpath('//div/a')
    # a = html.xpath('//body/a')  # 无数据
    # a = html.xpath('//body//a')
    
    # 4 父节点(..表示父节点)
    # a = html.xpath('//body//a[@href="image1.html"]/..')
    # a = html.xpath('//body//a[1]/..')
    # 也可以这样
    # a = html.xpath('//body//a[1]/parent::*')
    
    # 5 属性匹配
    # a = html.xpath('//body//a[@href="image1.html"]')
    
    # 6 文本获取(重要)  /text() 取当前标签的文本
    # a = html.xpath('//body//a[@href="image1.html"]/text()')
    # a = html.xpath('//body//a/text()')
    
    # 7 属性获取  @href 取当前标签的属性
    # a = html.xpath('//body//a/@href')
    
    # # 注意从1 开始取(不是从0)
    # a = html.xpath('//body//a[1]/@href')
    # 8 属性多值匹配
    #  a 标签有多个class类,直接匹配就不可以了,需要用contains
    # a = html.xpath('//body//a[@class="li"]')   # class有多个类,xpath这样写就取不到了,得像下面两个
    # a = html.xpath('//body//a[contains(@class,"li")]')
    # a = html.xpath('//body//a[contains(@class,"li")]/text()')
    # 9 多属性匹配
    # a = html.xpath('//body//a[contains(@class,"li") or @name="items"]')
    # a = html.xpath('//body//a[contains(@class,"li") and @name="items"]/text()')
    # a = html.xpath('//body//a[contains(@class,"li")]/text()')
    # 10 按序选择
    # a = html.xpath('//a[2]/text()')
    # a = html.xpath('//a[2]/@href')
    # 取最后一个
    # a = html.xpath('//a[last()]/@href')
    # 位置小于3的
    # a = html.xpath('//a[position()<3]/@href')
    # 倒数第二个
    # a = html.xpath('//a[last()-2]/@href')
    # 11 节点轴选择
    # ancestor:祖先节点
    # 使用了* 获取所有祖先节点
    # a = html.xpath('//a/ancestor::*')
    # # 获取祖先节点中的div
    # a = html.xpath('//a/ancestor::div')
    # attribute:属性值
    # a = html.xpath('//a[1]/attribute::*')
    # a = html.xpath('//a[1]/@aa')
    # child:直接子节点
    # a = html.xpath('//a[1]/child::*')
    # a = html.xpath('//a[1]/child::img/@src')
    # descendant:所有子孙节点
    # a = html.xpath('//a[6]/descendant::*')
    # a = html.xpath('//a[6]/descendant::h5/text()')
    # following:当前节点之后所有节点(兄弟节点和兄弟内部的节点)
    # a = html.xpath('//a[1]/following::*')
    # a = html.xpath('//a[1]/following::*[1]/@href')
    # following-sibling:当前节点之后同级节点(只找兄弟)
    # a = html.xpath('//a[1]/following-sibling::*')
    # a = html.xpath('//a[1]/following-sibling::a')
    # a = html.xpath('//a[1]/following-sibling::*[2]')
    # a = html.xpath('//a[1]/following-sibling::*[2]/@href')
    
    
    # print(a)

     总结:

    # /
    # //
    # /@属性名
    # /text()
    
    以后去查找标签,bs4的find,     css,xpath(通用的)

     关于节点的路径
    https://www.cnblogs.com/damon-/p/9481445.html

  • 相关阅读:
    BZOJ3435: [Wc2014]紫荆花之恋(替罪羊树,Treap)
    BZOJ2668: [cqoi2012]交换棋子(费用流)
    codeforces111D. Petya and Coloring(组合数学,计数问题)
    codeforces1114D. Flood Fill(区间Dp)
    BZOJ2137: submultiple(生成函数,二项式定理)
    BZOJ3645: Maze(FFT多项式快速幂)
    codeforces 140E.New Year Garland
    BZOJ1194: [HNOI2006]潘多拉的盒子(tarjan)
    BZOJ2337: [HNOI2011]XOR和路径(高斯消元,期望)
    BZOJ3569: DZY Loves Chinese II(线性基构造)
  • 原文地址:https://www.cnblogs.com/baicai37/p/13435523.html
Copyright © 2020-2023  润新知