XPath即为XML路径语言（XML Path Language），它是一种用来确定XML文档中某部分位置的语言。用于在 XML 文档中通过元素和属性进行导航。
XPath基于XML的树状结构，提供在数据结构树中找寻节点的能力。起初XPath的提出的初衷是将其作为一个通用的、介于XPointer与XSL间的语法模型。但是XPath很快的被开发者采用来当作小型查询语言。
xpath术语
节点
在 XPath 中，有七种类型的节点：元素、属性、文本、命名空间、处理指令、注释以及文档（根）节点。XML 文档是被作为节点树来对待的。树的根被称为文档节点或者根节点。
节点关系
父（Parent）
每个元素以及属性都有一个父。
在下面的例子中，book 元素是 title、author、year 以及 price 元素的父：
<book> <title>Harry Potter</title> <author>J K. Rowling</author> <year>2005</year> <price>29.99</price> </book>
子（Children）
元素节点可有零个、一个或多个子。
在下面的例子中，title、author、year 以及 price 元素都是 book 元素的子：
<book> <title>Harry Potter</title> <author>J K. Rowling</author> <year>2005</year> <price>29.99</price> </book>
同胞（Sibling）
拥有相同的父的节点
在下面的例子中，title、author、year 以及 price 元素都是同胞：
<book> <title>Harry Potter</title> <author>J K. Rowling</author> <year>2005</year> <price>29.99</price> </book>
先辈（Ancestor）
某节点的父、父的父，等等。
在下面的例子中，title 元素的先辈是 book 元素和 bookstore 元素：
<bookstore> <book> <title>Harry Potter</title> <author>J K. Rowling</author> <year>2005</year> <price>29.99</price> </book> </bookstore>
后代（Descendant）
某个节点的子，子的子，等等。
在下面的例子中，bookstore 的后代是 book、title、author、year 以及 price 元素：
<bookstore> <book> <title>Harry Potter</title> <author>J K. Rowling</author> <year>2005</year> <price>29.99</price> </book> </bookstore>
xpath语法
选取节点
选取节点 XPath 使用路径表达式在 XML 文档中选取节点。节点是通过沿着路径或者 step 来选取的。
下面列出了最有用的路径表达式：
| 表达式 | 描述 |
|---|---|
| nodename | 选取此节点的所有子节点 |
| / | 从根节点选取 |
| // | 从匹配选择的当前节点选择文档中的节点，而不考虑它们的位置 |
| . | 选取当前节点。 |
| .. | 选取当前节点的父节点。 |
| @ | 选取属性。 |
实例：
| 路径表达式 | 结果 |
|---|---|
| bookstore | 选取 bookstore 元素的所有子节点。 |
| /bookstore | 选取根元素 bookstore。注释：假如路径起始于正斜杠( / )，则此路径始终代表到某元素的绝对路径！ |
| bookstore/book | 选取属于 bookstore 的子元素的所有 book 元素。 |
| //book | 选取所有 book 子元素，而不管它们在文档中的位置。 |
| bookstore//book | 选择属于 bookstore 元素的后代的所有 book 元素，而不管它们位于 bookstore 之下的什么位置。 |
| //@lang | 选取名为 lang 的所有属性。 |
谓语（Predicates）
谓语用来查找某个特定的节点或者包含某个指定的值的节点。
谓语被嵌在方括号中。
实例
在下面的表格中，我们列出了带有谓语的一些路径表达式，以及表达式的结果：
| 路径表达式 | 结果 |
|---|---|
| /bookstore/book[1] | 选取属于 bookstore 子元素的第一个 book 元素。 |
| /bookstore/book[last()] | 选取属于 bookstore 子元素的最后一个 book 元素。 |
| /bookstore/book[last()-1] | 选取属于 bookstore 子元素的倒数第二个 book 元素。 |
| /bookstore/book[position()<3] | 选取最前面的两个属于 bookstore 元素的子元素的 book 元素。 |
| //title[@lang] | 选取所有拥有名为 lang 的属性的 title 元素。 |
| //title[@lang='eng'] | 选取所有 title 元素，且这些元素拥有值为 eng 的 lang 属性。 |
| /bookstore/book[price>35.00] | 选取 bookstore 元素的所有 book 元素，且其中的 price 元素的值须大于 35.00。 |
| /bookstore/book[price>35.00]/title | 选取 bookstore 元素中的 book 元素的所有 title 元素，且其中的 price 元素的值须大于 35.00。 |
选取未知节点
XPath 通配符可用来选取未知的 XML 元素。
| 通配符 | 描述 |
|---|---|
| * | 匹配任何元素节点。 |
| @* | 匹配任何属性节点。 |
| node() | 匹配任何类型的节点。 |
实例
在下面的表格中，我们列出了一些路径表达式，以及这些表达式的结果：
| 路径表达式 | 结果 |
|---|---|
| /bookstore/* | 选取 bookstore 元素的所有子元素。 |
| //* | 选取文档中的所有元素。 |
| //title[@*] | 选取所有带有属性的 title 元素。 |
选取若干路径
通过在路径表达式中使用“|”运算符，您可以选取若干个路径。
实例
在下面的表格中，我们列出了一些路径表达式，以及这些表达式的结果：
| 路径表达式 | 结果 |
|---|---|
| //book/title | //book/price | 选取 book 元素的所有 title 和 price 元素。 |
| //title | //price | 选取文档中的所有 title 和 price 元素。 |
| /bookstore/book/title | //price | 选取属于 bookstore 元素的 book 元素的所有 title 元素，以及文档中所有的 price 元素。 |
xpath具体使用
环境安装： pip install lxml
解析原理：
-
实例化一个etree类型的对象，且将即将被解析的页面源码数据加载到该对象中
-
调用该对象的xpath方法结合着不同的xpath表达式进行标签定位和数据提取
实例化对象： etree.parse(fileName) etree.HTML(page_text)
使用方法：xpath返回的一定是一个列表
-
表达式最左侧/和//区别
-
非最左侧的/和//区别
-
属性定位：//div[@class="name"]
-
索引定位：//div[2]
-
/text()和//text()
-
div/a/@href
<html lang="en"> <head> <meta charset="UTF-8" /> <title>测试bs4</title> </head> <body> <div> <p>百里守约</p> </div> <div class="song"> <p>李清照</p> <p>王安石</p> <p>苏轼</p> <p>柳宗元</p> <a href="http://www.song.com/" title="赵匡胤" target="_self"> <span>this is span</span> 宋朝是最强大的王朝，不是军队的强大，而是经济很强大，国民都很有钱</a> <a href="" class="du">总为浮云能蔽日,长安不见使人愁</a> <img src="http://www.baidu.com/meinv.jpg" alt="" /> </div> <div class="tang"> <ul> <li><a href="http://www.baidu.com" title="qing">清明时节雨纷纷,路上行人欲断魂,借问酒家何处有,牧童遥指杏花村</a></li> <li><a href="http://www.163.com" title="qin">秦时明月汉时关,万里长征人未还,但使龙城飞将在,不教胡马度阴山</a></li> <li><a href="http://www.126.com" alt="qi">岐王宅里寻常见,崔九堂前几度闻,正是江南好风景,落花时节又逢君</a></li> <li><a href="http://www.sina.com" class="du">杜甫</a></li> <li><a href="http://www.dudu.com" class="du">杜牧</a></li> <li><b>杜小月</b></li> <li><i>度蜜月</i></li> <li><a href="http://www.haha.com" id="feng">凤凰台上凤凰游,凤去台空江自流,吴宫花草埋幽径,晋代衣冠成古丘</a></li> </ul> </div> </body> </html>
实例化一个tree对象
from lxml import etree tree = etree.parse("test.html")
1.基于标签定位的xpath表达式
-
xpath方法返回值永远是一个列表
-
xpath表达式中最左侧的/和//的区别
-
/表示我们必须从根标签进行定位
-
//表示我们可以定义任意位置的标签
tree.xpath("/html/head/meta") # [<Element meta at 0x1bd33576f08>] tree.xpath("//meta") # [<Element meta at 0x1bd33576f08>]
查找到多个
tree.xpath("//div")
输出
[<Element div at 0x1bd3223c048>, <Element div at 0x1bd33584148>, <Element div at 0x1bd33584ac8>]
2.属性定位
tree.xpath("//div[@class='song']") # [<Element div at 0x1bd33584148>]
3.索引定位
-
索引值是从1开始
-
在xpath表达式中非最左侧的/和//的区别
-
/表示一个层级
-
//表示多个层级
tree.xpath("//div[@class='tang']/ul/li[3]") # [<Element li at 0x1bd335849c8>] tree.xpath("//div[@class='tang']//li[3]")
4.取文本
-
/text():获取的是标签下直系的文本数据
-
//text():获取的标签下所有的文本数据
tree.xpath("//div[@class='tang']//li[5]/a/text()") # ['杜牧']
获取多个文本
string_list = tree.xpath("//div[@class='tang']//text()") "".join(string_list).replace(" ","").replace(" ","") # '清明时节雨纷纷,路上行人欲断魂,借问酒家何处有,牧童遥指杏花村秦时明月汉时关,万里长征人未还,但使龙城飞将在,不教胡马度阴山岐王宅里寻常见,崔九堂前几度闻,正是江南好风景,落花时节又逢君杜甫杜牧杜小月度蜜月凤凰台上凤凰游,凤去台空江自流,吴宫花草埋幽径,晋代衣冠成古丘'
5.取属性
-
获取的也是一个列表
tree.xpath("//div[@class='tang']//li[5]/a/@href") # ['http://www.dudu.com']
实例
- 需求：爬取boss中的岗位信息（岗位名称，薪资，公司名称，岗位描述）
url = "https://www.zhipin.com/job_detail/?query=python爬虫&page=%d" f = open("boss.txt","w",encoding="utf-8") for page in range(1,2): new_url = format(url%page) page_text = requests.get(url=new_url,headers=headers).text # xpath的数据解析 tree = etree.HTML(page_text) # tree中存储的是整张页面中对应的页面源代码 li_list = tree.xpath("//div[@id='main']//div[@class='job-list']//li") # 遍历每个职位信息所在的li标签 for li in li_list: job_name = li.xpath("./div/div[1]//a/div[@class='job-title']/text()")[0] salary = li.xpath("./div/div[1]//a/span/text()")[0] detail_url ='https://www.zhipin.com' + li.xpath("./div/div[1]//a/@href")[0] company_name = li.xpath("./div/div[2]/div[@class='company-text']/h3/a/text()")[0] print(job_name,salary,detail_url,company_name) # 获取职位详细要求 detail_page_text = requests.get(url=detail_url,headers=headers).text detail_tree = etree.HTML(detail_page_text) job_desc = detail_tree.xpath('//*[@id="main"]/div[3]/div/div[2]/div[2]/div[1]/div/text()') job_desc = ''.join(job_desc) f.write(job_name+":"+salary+":"+company_name+":"+job_desc+" ") f.close()