使用jsoup选择器来查找元素

问题背景
使用java爬取拉勾网上职位信息。
首先，解析拉勾网职位信息网页，找出需要提取的信息并存入数据库。
之前尝试的方法：使用过解析json文件，但每个json文件只有15条信息，而且同一电脑多次访问网站会遇到限制（反爬虫）。
                           解析网页时使用正则表达式：优点：代码简介；缺点：正则表达式较为复杂，新手理解较为困难。 
目前解决的办法：使用第三方库jsoup解析网页，获得想要的数据。 
 
遇到的问题

需要使用类似于CSS或jQuery的语法来查找和操作元素。

方法

可以使用Element.select(String selector) 和 Elements.select(String selector) 方法实现：

File input = new File("/tmp/input.html");
Document doc = Jsoup.parse(input, "UTF-8", "http://example.com/");
Elements links = doc.select("a[href]"); //带有href属性的a元素
Elements pngs = doc.select("img[src$=.png]"); //扩展名为.png的图片
Element masthead = doc.select("div.masthead").first(); //class等于masthead的div标签
Elements resultLinks = doc.select("h3.r > a"); //在h3元素之后的a元素

说明

jsoup elements对象支持类似于CSS (或jquery)的选择器语法，来实现非常强大和灵活的查找功能。.

这个select 方法在Document, Element,或Elements对象中都可以使用。且是上下文相关的，因此可实现指定元素的过滤，或者链式选择访问。

Select方法将返回一个Elements集合，并提供一组方法来抽取和处理结果。

Selector选择器概述

• tagname: 通过标签查找元素，比如：a
• ns|tag: 通过标签在命名空间查找元素，比如：可以用 fb|name 语法来查找 <fb:name> 元素
• #id: 通过ID查找元素，比如：#logo
• .class: 通过class名称查找元素，比如：.masthead
• [attribute]: 利用属性查找元素，比如：[href]
• [^attr]: 利用属性名前缀来查找元素，比如：可以用[^data-] 来查找带有HTML5 Dataset属性的元素
• [attr=value]: 利用属性值来查找元素，比如：[width=500]
• [attr^=value], [attr$=value], [attr*=value]: 利用匹配属性值开头、结尾或包含属性值来查找元素，比如：[href*=/path/]
• [attr~=regex]: 利用属性值匹配正则表达式来查找元素，比如： img[src~=(?i).(png|jpe?g)]
• *: 这个符号将匹配所有元素

Selector选择器组合使用

• el#id: 元素+ID，比如： div#logo
• el.class: 元素+class，比如： div.masthead
• el[attr]: 元素+class，比如： a[href]
• 任意组合，比如：a[href].highlight
• ancestor child: 查找某个元素下子元素，比如：可以用.body p 查找在"body"元素下的所有 p元素
• parent > child: 查找某个父元素下的直接子元素，比如：可以用div.content > p 查找 p 元素，也可以用body > * 查找body标签下所有直接子元素
• siblingA + siblingB: 查找在A元素之前第一个同级元素B，比如：div.head + div
• siblingA ~ siblingX: 查找A元素之前的同级X元素，比如：h1 ~ p
• el, el, el:多个选择器组合，查找匹配任一选择器的唯一元素，例如：div.masthead, div.logo

伪选择器selectors

• :lt(n): 查找哪些元素的同级索引值（它的位置在DOM树中是相对于它的父节点）小于n，比如：td:lt(3) 表示小于三列的元素
• :gt(n):查找哪些元素的同级索引值大于n，比如： div p:gt(2)表示哪些div中有包含2个以上的p元素
• :eq(n): 查找哪些元素的同级索引值与n相等，比如：form input:eq(1)表示包含一个input标签的Form元素
• :has(seletor): 查找匹配选择器包含元素的元素，比如：div:has(p)表示哪些div包含了p元素
• :not(selector): 查找与选择器不匹配的元素，比如： div:not(.logo) 表示不包含 class="logo" 元素的所有 div 列表
• :contains(text): 查找包含给定文本的元素，搜索不区分大不写，比如： p:contains(jsoup)
• :containsOwn(text): 查找直接包含给定文本的元素
• :matches(regex): 查找哪些元素的文本匹配指定的正则表达式，比如：div:matches((?i)login)
• :matchesOwn(regex): 查找自身包含文本匹配指定正则表达式的元素
• 注意：上述伪选择器索引是从0开始的，也就是说第一个元素索引值为0，第二个元素index为1等

可以查看Selector API参考来了解更详细的内容
 

测试代码：

 

public static void main(String[] args) {
// 根据全国各个高校的地址，获取视频中相应列表的URL和要抓取的值
        Document document = null;
        try {
            document = Jsoup
                    .connect(
                            "http://gaokao.chsi.com.cn/sch/search.do?start=0")
                    .get();
        } catch (IOException e) {
            e.printStackTrace();
        }
        Element element = document.body();
        //System.out.println(element);
        Elements ths = document.select("th");
        System.out.println(ths);
        Elements tds = document.select("td");
        System.out.println(tds);
}
 
一、简介
该类是位于select包下，直接继承自Object，所有实现的接口有Cloneable, Iterable<Element>, Collection<Element>, List<Element>类声明：public class Elements extends Object implements List<Element>, Cloneable可以使用Element.select(String) 方法去得到Elements 对象。
二、构造方法
1、public Elements()  默认构造方法
2、public Elements(int initialCapacity) 指定一个初始容量创建一个Elements对象。
3、public Elements(Collection<Element> elements)  使用已知元素集创建一个Elements对象。
4、public Elements(List<Element> elements)  使用已知元素的List集合创建一个Elements对象。
5、public Elements(Element... elements) 使用已知元素的可变参数列表创建一个Elements对象。
三、方法详细
1、public Elements clone()  克隆
2、public String attr(String attributeKey) 根据键得到第一个匹配的元素（匹配即为有这个属性）。
3、public boolean hasAttr(String attributeKey)   元素集中存在任何一个元素匹配（有这属性）则返回true。
4、public Elements attr(String attributeKey, String attributeValue) 将 所有匹配attributeKey键的元素的值设置为attributeValue。
5、public Elements removeAttr(String attributeKey)  移除元素集中任何一个匹配的元素
6、public Elements addClass(String className)  将className增加到每一个匹配的元素的class属性上。
7、public Elements removeClass(String className)  从每一个匹配的元素上移除该className
8、public Elements toggleClass(String className)   对每一个匹配的元素的class属性上进行反转。（有则移除，没有则新增）。
9、public boolean hasClass(String className)  检测是否有任何一个匹配的元素在class属性有给定的className值。
10、public String val()  得到第一个匹配元素的表单的值。
11、public Elements val(String value)   对每一个匹配的元素设置表单值。
12、public String text()  得到所有匹配元素文本的综合。该方法在某些情况下会得到重复数据。
13、public boolean hasText() 检测是否有文本内容
14、public String html()  得到所有匹配元素的内部html的综合。
15、public String outerHtml()  得到所有匹配元素的外部html的综合。
16、public String toString()  得到所有匹配元素的外部html的综合。
17、public Elements tagName(String tagName)  更新每个匹配元素的tag name.   如想把每个<i>变成<em>，可以这样：doc.select("i").tagName("em");
18、public Elements html(String html)  设置每个匹配元素的内部html。
19、public Elements prepend(String html)   将指定html增加到每个匹配元素的内部html开头。
20、public Elements append(String html)   将指定html增加到每个匹配元素的内部html末尾。
21、public Elements before(String html)   在每个匹配元素的外部html前面插入指定html。
22、public Elements after(String html)   在每个匹配元素的外部html后面插入指定html。
23、public Elements wrap(String html)  用指定html包装每个匹配的元素。
例如，对于这个html：<p><b>This</b> is <b>Jsoup</b></p>，执行这个包装：doc.select("b").wrap("<i></i>")后就变成：<p><i><b>This</b></i> is <i><b>jsoup</b></i></p>
24、public Elements unwrap()   移除匹配的元素但保留他们的内容。示例：<div><font>One</font> <font><a href="/">Two</a></font></div>   执行 doc.select("font").unwrap()   变成：<div>One <a href="/">Two</a></div>
25、public Elements empty()  清空每个匹配元素的内容。示例：<div><p>Hello <b>there</b></p> <p>now</p></div>  执行doc.select("p").empty()  变成<div><p></p> <p></p></div>
26、public Elements remove()  从DOM树中移除匹配的元素。示例：<div><p>Hello</p> <p>there</p> <img /></div>   执行doc.select("p").remove()后 变成<div> <img /></div>
27、public Elements select(String query)  根据query选择器查询匹配的元素集。
28、public Elements not(String query)  移除匹配选择器的元素集   返回过滤后的元素集。
29、public Elements eq(int index)  根据index得到匹配的元素
30、public boolean is(String query)  检测是否有一个元素匹配给定的选择器。
31、public Elements parents()   得到匹配元素集的所有父类元素和祖先元素集
32、public Element first()  得到第一个匹配的元素
33、public Element last()   得到最后一个匹配的元素
34、public Elements traverse(NodeVisitor nodeVisitor)  对被查询的元素执行一次深度优先的遍历。
35、public int size()  元素集的长度。
36、public boolean isEmpty()   检测是否为空
37、public boolean contains(Object o)  检测是否包含指定对象
38、public Iterator<Element> iterator()   得到迭代器对象
39、public Object[] toArray()  将元素集转换为数组
40、public <T> T[] toArray(T[] a)
41、public boolean add(Element element)  新增元素
42、public boolean remove(Object o)  移除指定元素
43、public boolean containsAll(Collection<?> c)  参照java中的List或Collection用法.
44、public boolean addAll(Collection<? extends Element> c)  参照java中的List或Collection用法.
45、public boolean addAll(int index, Collection<? extends Element> c)  参照java中的List或Collection用法.
46、public boolean removeAll(Collection<?> c)     参照java中的List或Collection用法.
47、public boolean retainAll(Collection<?> c)  参照java中的List或Collection用法.
48、public void clear() 清空元素集
49、public Element get(int index)  根据索引得到指定元素
50、public Element set(int index, Element element)  根据索引设置指定元素
51、public void add(int index, Element element) 在指定位置增加元素
52、public Element remove(int index)  移除指定位置的元素
53、public int indexOf(Object o)  得到指定元素的索引（第一次出现的位置）
54、public int lastIndexOf(Object o) 得到指定元素最后一次出现的位置。
55、public ListIterator<Element> listIterator() 具体参照List<Element>
56、public ListIterator<Element> listIterator(int index)  具体参照List<Element>
57、public List<Element> subList(int fromIndex, int toIndex)  根据起始点得到子集

 

 

public static void main(String[] args) {

        // TODO Auto-generated method stub
         try {

                Document document=Jsoup.connect("http://www.lagou.com/jobs/857555.html?source=position_rec&i=position_rec-0").get();

                Element element=document.select("meta[name]").get(2);

 

                /*获得含有工作名称、公司名称的字符串,之后可以进行进一步的解析*/

                System.out.println(element.attr("content"));

 

                /*获得工资字符串*/

                Element salary=document.getElementsByTag("span").get(3);

                System.out.println(salary.text());

 

                /*获得公司地址*/

                Element address=document.getElementsByTag("span").get(4);

                System.out.println(address.text());

 

                / *获得工作经验*/

                Element experience=document.getElementsByTag("span").get(5);

                System.out.println(experience.text());

 

                /*获得学历要求*/

                Element education=document.getElementsByTag("span").get(6);

                System.out.println(education.text());

 

                /*查找领域、融资情况*/

                Elements results=document.select(".c_feature").select("li");

 

                /*领域*/

                System.out.println(results.get(0).text());

 

                /*融资*/

                System.out.println(results.get(3).text());
         } catch (IOException e) {

                // TODO: handle exception

                e.printStackTrace();

        }

}