python语言实现网络爬虫---requests库、BeautifulSoup4库

一、引入问题

　　　　python语言的简洁性以及脚本特点十分适合连接和网页处理，因此在python的计算生态中，与url和网页处理有关的第三方库有很多。这些库的作用不同，使用方法不同，用户的体验也不同。其中我们今天就先来了解requests库、BeautifulSoup库。

二、requests库的使用

（一）requests库的概述

　　　　requests库是一个简洁且简单处理HTTP请求的第三方库，它的最大优点是程序编写过程更接近正常URL访问过程。这个库建立在python语言的urlib3库的基础上，类似这种在其他函数库之上再封装功能，提供更友好函数的方式在python语言中十分常见。在python生态圈里，任何人都有通过技术创新或体验创新发表意见和展示才华的机会。

（二）介绍requests库的一些函数

1、get()获取网页

import requests
#使用get方法打开淘宝连接
r = requests.get('http://ip.taobao.com/service/getIpInfo2.php?ip=111.174.77.14')
print(type(r))

结果：

 2、requests的一些基本方法

import requests
r = requests.get('http://ip.taobao.com/service/getIpInfo2.php?ip=111.174.77.14')

print(r.status_code)#打印get请求的状态码
print(r.encoding)#打印编码
print(r.text)#打印请求到的内容
print(r.cookies)
print(r.json())#输出json格式数据

结果：

 3、根据以上内容进行实际操作

import requests
r = requests.get('http://ip.taobao.com/service/getIpInfo2.php?ip=111.174.77.14')
result = r.json()
country = result['data']['country']
area = result['data']['area']
region = result['data']['region']
print(country+area+region)

 结果：

 三、BeautifulSoup4库的使用

（一）BeautifulSoup4库的概述

 BeautifulSoup是一种专门用于进行HTML/XML数据解析的一种描述语言，可以很好的分析和筛选HTML/XML这样的标记文档中的指定规则数据。在数据筛选过程中其基础技术是通过封装HTML DOM树实现的一种DOM操作，通过加载网页文档对象的形式，从文档对象树模型中获取目标数据。

（二）介绍BeautifulSoup4库的一些使用函数

import requests
from bs4 import BeautifulSoup
r = requests.get('http://www.baidu.com')
r.encoding = None
result = r.text
bs = BeautifulSoup(result,'html.parser')
print(bs.title)
print(bs.title.text)

 结果：