• 爬虫(一)


     01-安装Jupyter Notebook

      安装Jupyter Notebook的前提是Python的版本在3.3以上(或2.7版本)

      通过安装Anaconda,来解决安装Jupyter Notebook的问题。

    安装Anaconda

    官网:https://www.anaconda.com/download/

    清华镜像(推荐使用):https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/

    使用介绍:

    运行Jupyter Notebook

    jupyter notebook


    使用介绍: 快捷键: b: 向下插入一个cell a: 向上插入一个cell m: 将cell的类型切换成 makedown 类型 y: 将cell的类型切换成 code类型 shift
    +enter: 执行cell shit+tab: 查看模块的帮助文档 tab: 自动补全

    02-urllib模块

      Python中自带的一个基于爬虫的模块。作用:可以是用代码模拟浏览器发起请求。

    使用流程:
        指定URL
        发起请求
        获取页面数据
        持久存储

    urllib第一个爬虫程序

    #  需求:爬去搜狗首页的页数据
    
    import urllib.request
    
    # 1.指定url
    url = "https://www.sogou.com/"
    
    # 2.发起请求:urlopen可以根据指定的url发起请求,并返回一个相应对象
    response = urllib.request.urlopen(url=url)
    
    # 3.获取页面数据:read函数返回的是响应对象中存储的页面数据
    page_text = response.read()
    
    # 4.持久化存储
    with open('./sougou.html', 'wb') as f:
        f.write(page_text)
        print('写入数据成功')
    # 需求:爬取指定词条所对应的页面数据
    
    import urllib.request
    import urllib.parse
    
    
    url = "https://www.sogou.com/web?query="
    
    # url特性:url不可以存在非ASCII编码的字符数据
    world = urllib.parse.quote("人民币")
    
    # 有效的url
    url += world
    
    response = urllib.request.urlopen(url=url)
    
    page_text = response.read()
    
    with open('./renminbi.html', 'wb') as f:
        f.write(page_text)
        print('写入数据成功')

    03-反爬机制

    import urllib.request
    import urllib.parse
    url = 'https://www.sogou.com/web?'
    #将get请求中url携带的参数封装至字典中
    param = {
        'query':'周杰伦'
    }
    #对url中的非ascii进行编码
    param = urllib.parse.urlencode(param)
    #将编码后的数据值拼接回url中
    url += param 
    
    #封装自定义的请求头信息的字典:
    #将浏览器的UA数据获取,封装到一个字典中。该UA值可以通过抓包工具或者浏览器自带的开发者工具中获取某请求,从中获取UA的值
    #注意:在headers字典中可以封装任意的请求头信息
    headers={
        'User-Agent' : 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36'
        }
    #自定义请求对象,可以在该请求对象中添加自定义的请求头信息
    request = urllib.request.Request(url=url,headers=headers)
    #使用自定义请求对象发起请求
    response = urllib.request.urlopen(request)
    data = response.read()
    with open('./周杰伦.html','wb') as fp:
        fp.write(data)
    print('写入文件完毕')
    View Code

    04-urllib模块发起的post请求

    # 需求:百度翻译发post请求
    
    import urllib.request
    import urllib.parse
    #通过抓包工具抓取post请求的url
    post_url='https://fanyi.baidu.com/sug'
    #封装post请求参数
    data={
        "kw":"dog"
    }
    data=urllib.parse.urlencode(data)
    #自定义请求头信息字典
    headers={
        "User-Agent": "Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.87 Safari/537.36"
    }
    
    #自定义请求对象,然后将封装好的post请求参数赋值给Requst方法的data参数。
    #data参数:用来存储post请求的参数
    request=urllib.request.Request(post_url,data=data.encode(),headers=headers)
    #自定义的请求对象中的参数(data必须为bytes类型)
    response=urllib.request.urlopen(request)
    response.read()

    05-urllib的高级操作

    1.代理

          - 什么是代理:代理就是第三方代替本体处理相关事务。例如:生活中的代理:代购,中介,微商......

      - 爬虫中为什么需要使用代理?

         一些网站会有相应的反爬虫措施,例如很多网站会检测某一段时间某个IP的访问次数,如果访问频率太快以至于看起来不像正常访客,它可能就会会禁止这个IP的访问。所以我们需要设置一些代理IP,每隔一段时间换一个代理IP,就算IP被禁止,依然可以换个IP继续爬取。

       - 代理的分类:

        正向代理:代理客户端获取数据。正向代理是为了保护客户端防止被追究责任。

        反向代理:代理服务器提供数据。反向代理是为了保护服务器或负责负载均衡。

    import urllib.request
    import urllib.parse
    
    #1.创建处理器对象,在其内部封装代理ip和端口
    handler=urllib.request.ProxyHandler(proxies={'http':'95.172.58.224:52608'})
    #2.创建opener对象,然后使用该对象发起一个请求
    opener=urllib.request.build_opener(handler)
    
    url='http://www.baidu.com/s?ie=UTF-8&wd=ip'
    
    headers = {
        'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.181 Safari/537.36',
    }
    
    request = urllib.request.Request(url, headers=headers)
    
    #使用opener对象发起请求,该请求对应的ip即为我们设置的代理ip
    response = opener.open(request)
    
    with open('./daili.html','wb') as fp:
        fp.write(response.read())

     06-requests模块

    1.基于requests模块发起get请求 

    # 需求:爬取搜狗首页的页面数据
    
    import requests
    #指定url
    url = 'https://www.sogou.com/'
    
    #发起get请求:get方法会返回请求成功的相应对象
    response = requests.get(url=url)
    
    #获取响应中的数据值:text可以获取响应对象中字符串形式的页面数据
    page_data = response.text
    
    print(page_data)
    
    #持久化操作
    with open('./sougou.html','w',encoding='utf-8') as fp:
        fp.write(page_data)

    2.response中重要的属性

    #response对象中其他重要的属性
    import requests
    #指定url
    url = 'https://www.sogou.com/'
    
    #发起get请求:get方法会返回请求成功的相应对象
    response = requests.get(url=url)
    
    #content获取的是response对象中二进制(byte)类型的页面数据
    #print(response.content)
    #返回一个响应状态码
    #print(response.status_code)
    #返回响应头信息
    #print(response.headers)
    #获取请求的url
    #print(response.url)

    3.requests模块如何处理携带参数的get请求

    # 需求:指定一个词条,获取搜狗搜索结果所对应的页面数据
    
    import requests
    
    url = 'https://www.sogou.com/web?query=周杰伦&ie=utf-8'
    
    response = requests.get(url=url)
    
    page_text = response.text
    
    with open('./zhou.html','w',encoding='utf-8') as fp:
        fp.write(page_text)
    import requests
    #自定义请求头信息
    headers={
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
        }
    #指定url
    url = 'https://www.sogou.com/web'
    #封装get请求参数
    prams = {
        'query':'周杰伦',
        'ie':'utf-8'
    }
    #发起请求
    response = requests.get(url=url,params=param)
    
    response.status_code
    # 自定义请求头信息
    import requests
    url = 'https://www.sogou.com/web'
    
    #将参数封装到字典中
    params = {
        'query':'周杰伦',
        'ie':'utf-8'
    }
    #自定义请求头信息
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    
    response = requests.get(url=url,params=params,headers=headers)
    
    response.status_code

    4.requests的post请求

    # 需求:登录豆瓣网,获取登录成功后的页面数据
    
    import requests
    
    #1.指定post请求的url
    url = 'https://accounts.douban.com/login'
    
    #封装post请求的参数
    data = {
        "source": "movie",
        "redir": "https://movie.douban.com/",
        "form_email": "15027900535",
        "form_password": "bobo@15027900535",
        "login": "登录",
    }
    #自定义请求头信息
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    #2.发起post请求
    response = requests.post(url=url,data=data,headers=headers)
    
    #3.获取响应对象中的页面数据
    page_text = response.text
    
    #4.持久化操作
    with open('./douban.html','w',encoding='utf-8') as fp:
        fp.write(page_text)

     5.基于ajax的get请求

    # 需求:抓取豆瓣电影上电影详情的数据
    
    import requests
    
    url = 'https://movie.douban.com/j/chart/top_list?'
    
    #封装ajax的get请求中携带的参数
    params = {
        'type':'5',
        'interval_id':'100:90',
        'action':'',
        'start':'100',
        'limit':'20'
    }
    #自定义请求头信息
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    
    response = requests.get(url=url,params=params,headers=headers)
    
    print(response.text)

     6.基于ajax的post请求

    # 需求:爬去肯德基城市餐厅位置数据
    
    import requests
    
    #1指定url
    post_url = 'http://www.kfc.com.cn/kfccda/ashx/GetStoreList.ashx?op=keyword'
    
    #处理post请求的参数
    data = {
        "cname": "",
        "pid": "",
        "keyword": "上海",
        "pageIndex": "1",
        "pageSize": "10",
    }
    #自定义请求头信息
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    
    #2发起基于ajax的post请求
    response = requests.post(url=post_url,headers=headers,data=data)
    
    response.text

    7.综合项目实战

    # 需求:爬取搜狗知乎某一个词条对应一定范围页码表示的页面数据
    
    #前三页页面数据(1,2,3)
    import requests
    import os
    
    #创建一个文件夹
    if not os.path.exists('./pages'):
        os.mkdir('./pages')
        
    word = input('enter a word:')
    
    #动态指定页码的范围
    start_pageNum = int(input('enter a start pageNum:'))
    end_pageNum = int(input('enter a end pageNum:'))
    #自定义请求头信息
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    #1.指定url:设计成一个具有通用的url
    url = 'https://zhihu.sogou.com/zhihu'
    for page in range(start_pageNum,end_pageNum+1):
        param = {
            'query':word,
            'page':page,
            'ie':'utf-8'
        }
        response = requests.get(url=url,params=param,headers=headers)
        
        #获取响应中的页面数据(指定页码(page))
        page_text = response.text
        
        #进行持久化存储
        fileName = word+str(page)+'.html'
        filePath = 'pages/'+fileName
        with open(filePath,'w',encoding='utf-8') as fp:
            fp.write(page_text)
            print('第%d页数据写入成功'%page)

    8.高级

    requests模块高级:
    - cookie:
        基于用户的用户数据
        - 需求:爬取张三用户的豆瓣网的个人主页页面数据
    - cookie作用:服务器端使用cookie来记录客户端的状态信息。
    实现流程:
        1.执行登录操作(获取cookie)
        2.在发起个人主页请求时,需要将cookie携带到该请求中
        注意:session对象:发送请求(会将cookie对象进行自动存储)
    import requests
    
    session = requests.session()
    #1.发起登录请求:将cookie获取,切存储到session对象中
    login_url = 'https://accounts.douban.com/login'
    data = {
        "source": "None",
        "redir": "https://www.douban.com/people/185687620/",
        "form_email": "15027900535",
        "form_password": "bobo@15027900535",
        "login": "登录",
    }
    headers={
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
        }
    #使用session发起post请求
    login_response = session.post(url=login_url,data=data,headers=headers)
    
    #2.对个人主页发起请求(session(cookie)),获取响应页面数据
    url = 'https://www.douban.com/people/185687620/'
    response = session.get(url=url,headers=headers)
    page_text = response.text
    
    with open('./douban110.html','w',encoding='utf-8') as fp:
        fp.write(page_text)

     9.代理操作

    代理操作:
    - 1.代理:第三方代理本体执行相关的事物。生活:代购,微商,中介
    - 2.为什么要使用代理?
        - 反爬操作。
        - 反反爬手段
    - 3.分类:
        - 正向代理:代替客户端获取数据
        - 反向代理:代理服务器端提供数据
    - 4.免费代理ip的网站提供商:
        - www.goubanjia.com
        - 快代理
        - 西祠代理
    - 5.代码:
    import requests
    
    url = 'http://www.baidu.com/s?ie=utf-8&wd=ip'
    
    headers={
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
        }
    
    #将代理ip封装到字典
    proxy = { 
        'http':'77.73.69.120:3128'
    }
    #更换网路IP
    response = requests.get(url=url,proxies=proxy,headers=headers)
    
    with open('./daili.html','w',encoding='utf-8') as fp:
        fp.write(response.text)
    View Code

    07-验证码的处理

     - 主代码

    - 识别验证码的函数

     

    # 验证码类型:在此查询所有类型的网址:
    http://www.yundama.com/price.html
    
    # 验证码图片文件
    filename = codeImg
    # 不定长字符
    codetype = 3000
    # 超时时间
    timeout = 20

    08-三种数据解析的方式

     1.正则回顾

    import re
    
    #提取出python
    key="javapythonc++php"
    re.findall('python',key)[0]
    # 结果:'python'
    
    #提取出hello world
    key="<html><h1>hello world<h1></html>"
    re.findall('<h1>hello world<h1>',key)[0]
    # 结果:'<h1>hello world<h1>'
    
    #提取170
    string = '我喜欢身高为170的女孩'
    re.findall('d+',string)
    # 结果:['170']
    
    #提取出http://和https://
    key='http://www.baidu.com and https://boob.com'
    re.findall('https{0,1}',key)
    # 结果:['http', 'https']
    
    #提取出hit. 
    key='bobo@hit.edu.com'
    re.findall('h.*?.',key) #贪婪模式:根据正则表达式尽可能多的提取出数据
    # 结果:['hit.']
    
    #匹配sas和saas
    key='saas and sas and saaas'
    re.findall('sa{1,2}s',key)
    # 结果:['saas', 'sas']
    
    #匹配出i开头的行   re.S(基于单行)  re.M(基于多行)
    string = '''fall in love with you
    i love you very much
    i love she
    i love her'''
    re.findall('^i.*',string,re.M)
    # 结果:['i love you very much', 'i love she', 'i love her']
    
    #匹配全部行
    string = """<div>静夜思
    窗前明月光
    疑是地上霜
    举头望明月
    低头思故乡
    </div>"""
    re.findall('<div>.*</div>',string,re.S)
    # 结果:['<div>静夜思
    窗前明月光
    疑是地上霜
    举头望明月
    低头思故乡
    </div>']

    2.正则演练

    # 需求:使用正则对糗事百科中的图片数据进行解析和下载
    
    '''
    <div class="thumb">
    
    <a href="/article/121159481" target="_blank">
    <img src="//pic.qiushibaike.com/system/pictures/12115/121159481/medium/CIYK4P1D4DKSBY4L.jpg" alt="不是臭咸鱼吗">
    </a>
    
    </div>
    '''
    
    import requests
    import re
    import os
    #指定url
    url = 'https://www.qiushibaike.com/pic/'
    headers={
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
        }
    #发起请求
    response = requests.get(url=url,headers=headers)
    
    #获取页面数据
    page_text = response.text
    
    #数据解析(该列表中存储的就是当前页面源码中所有的图片链接)
    img_list = re.findall('<div class="thumb">.*?<img src="(.*?)".*?>.*?</div>',page_text,re.S)
    
    #创建一个存储图片数据的文件夹
    if not os.path.exists('./imgs'):
        os.mkdir('imgs')
    for url in img_list:
        #将图片的url进行拼接,拼接成一个完成的url
        img_url = 'https:' + url
        #持久化存储:存储的是图片的数据,并不是url。
        #获取图片二进制的数据值
        img_data = requests.get(url=img_url,headers=headers).content
        imgName = url.split('/')[-1]
        imgPath = 'imgs/'+imgName
        with open(imgPath,'wb') as fp:
            fp.write(img_data)
            print(imgName+'写入成功')
    # 爬去指定页码的图片数据

    3.xpath

    xpath在爬虫中的使用流程:
    - 1.下载:pip install lxml
    - 2.导包:from lxml import etree
    - 3.创建etree对象进行指定数据的解析
        - 本地:etree=etree.parse('本地文件路径')
               etree.xpath('xpath表达式')
        - 网络:etree=etree.HTML('网络请求到的页面数据')
               etree.xpath('xpath表达式')
    常用的xpath表达式:
    属性定位:
      # 找到class属性值为song的div标签
      //div[@class="song"] 
    层级
    &索引定位:   # 找到class属性值为tang的div的直系子标签ul下的第二个子标签li下的直系子标签a   //div[@class="tang"]/ul/li[2]/a
    逻辑运算:   
    # 找到href属性值为空且class属性值为du的a标签   //a[@href="" and @class="du"]
    模糊匹配:
    //div[contains(@class, "ng")] //div[starts-with(@class, "ta")] 取文本:   # /表示获取某个标签下的文本内容   # //表示获取某个标签下的文本内容和所有子标签下的文本内容   //div[@class="song"]/p[1]/text()   //div[@class="tang"]//text()
    取属性:
    //div[@class="tang"]//li[2]/a/@href
    from lxml import etree
    
    #xpath函数返回的总是一个列表
    
    #创建etree对象进行指定数据解析
    tree = etree.parse('./test.html')
    #属性定位:根据指定的属性定位到指定的节点标签
    #tree.xpath('//div[@class="song"] ')
    #层级索引定位
    #tree.xpath('//div[@class="tang"]/ul/li[2]/a')
    
    #逻辑定位
    #tree.xpath('//a[@href="" and @class="du"]')
    
    #模糊查询
    #tree.xpath('//div[contains(@class, "ng")]')
    #tree.xpath('//div[starts-with(@class, "ta")]')
    
    #取文本
    #tree.xpath('//div[@class="song"]/p[1]/text()') #/text()获取当前标签中直系存储的文本数据
    #tree.xpath('//div[@class="tang"]//text()')   #//text()获取某一个标签下所有子标签中存储的文本数据
    
    
    #取属性
    tree.xpath('//div[@class="tang"]//li[2]/a/@href')
    
    # 结果:['http://www.163.com']
    xpath插件:就可以直接将xpath表达式作用于浏览器的网页当中
    安装:更多工具-》扩展程序-》开启右上角的开发者模式-》xpath插件拖动到页面即可
    快捷键:
      开启和关闭xpath插件:ctrol+shitf+x

    4.bs4

    Beautiful解析:
      - python独有。简单便捷和高效。
    环境安装:
      需要将pip源设置为国内源,阿里源、豆瓣源、网易源等
    windows 
    (1)打开文件资源管理器(文件夹地址栏中) 
    (2)地址栏上面输入 %appdata%3)在这里面新建一个文件夹 pip 
    (4)在pip文件夹里面新建一个文件叫做 pip.ini ,内容写如下即可 
    [global] 
    timeout = 6000 
    index-url = https://mirrors.aliyun.com/pypi/simple/ 
    trusted-host = mirrors.aliyun.com
    -------------------------分割线---------------------------- linux (
    1)cd ~2)mkdir ~/.pip (3)vi ~/.pip/pip.conf (4)编辑内容,和windows一模一样
    需要安装:
      pip install bs4 bs4在使用时候需要一个第三方库,把这个库也安装一下   pip install lxml
    代码的使用流程: 核心思想:将html文档转换成Beautiful对象,然后调用该对象中的属性和方法进行html文档指定内容的定位查找。 导包:
      
    from bs4 import BeautifulSoup 创建Beautiful对象: - 如果html文档的来源是来源于本地: Beautiful('open('本地的html文件')','lxml'- 如果html是来源于网络 Beautiful(‘网络请求到的页面数据’,‘lxml’) 属性和方法:
    1)根据标签名查找 - soup.a 只能找到第一个符合要求的标签
    2)获取属性 - soup.a.attrs 获取a所有的属性和属性值,返回一个字典 - soup.a.attrs['href'] 获取href属性 - soup.a['href'] 也可简写为这种形式
    3)获取内容 - soup.a.string 相当于xpath里的/text() - soup.a.text //text() - soup.a.get_text() //text() 【注意】如果标签还有标签,那么string获取到的结果为None,而其它两个,可以获取文本内容
    4)find:找到第一个符合要求的标签 - soup.find('a') 找到第一个符合要求的 - soup.find('a', title="xxx") - soup.find('a', alt="xxx") - soup.find('a', class_="xxx") - soup.find('a', id="xxx")
    5)find_All:找到所有符合要求的标签 - soup.find_All('a') - soup.find_All(['a','b']) 找到所有的a和b标签 - soup.find_All('a', limit=2) 限制前两个
    6)根据选择器选择指定的内容   select:soup.select('#feng') - 常见的选择器:标签选择器(a)、类选择器(.)、id选择器(#)、层级选择器 - 层级选择器: div .dudu #lala .meme .xixi 下面好多级 div//img div > p > a > .lala 只能是下面一级 div/img 【注意】select选择器返回永远是列表,需要通过下标提取指定的对象

     项目实战:

    # 需求:爬取古诗文网中三国小说里的标题和内容
    
    import requests
    from bs4 import BeautifulSoup
    
    
    url = 'http://www.shicimingju.com/book/sanguoyanyi.html'
    
    headers = {
        'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_12_0) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.100 Safari/537.36',
    }
    
    # 根据url获取页面指定标题所对应的内容
    
    
    def get_content(currents_url):
        content_page = requests.get(url=currents_url, headers=headers).text
        soup1 = BeautifulSoup(content_page, 'lxml')
        div = soup1.find('div', class_='chapter_content')
        return div.text
    
    
    page_text = requests.get(url=url, headers=headers).text
    
    # 数据解析
    
    soup = BeautifulSoup(page_text, 'lxml')
    
    # a_list 存储的是一系列的a标签对象
    a_list = soup.select('.book-mulu > ul > li > a')
    
    print(a_list[0], type(a_list[0]))  # type(a_list[0])的类型是 <class 'bs4.element.Tag'>
    # 注意:Tag类型的对象可以继续调用相应的属性和方法进行局部数据的解析
    
    
    for a in a_list:
        # 获取章节的标题
        title = a.string
        # print(title)
        # 获取章节内容的url
        current_url = 'http://www.shicimingju.com' + a['href']
        # 获取章节内容
        content = get_content(current_url)
        # print(content)
        # fp = open('./sanguo/%s%s' % (title, '.txt'), 'w', encoding='utf-8')
        with open('./sanguo/%s' % title, 'w', encoding='utf-8') as e:
            e.write(title + ':' + content)
            print('%s' % title, "写入成功!")

     09-selenium的使用

    1.selenum:三方库。可以实现让浏览器完成自动化的操作。
    2.环境搭建
        2.1 安装:pip install selenium
        2.2 获取浏览器的驱动程序
    下载地址:
        http://chromedriver.storage.googleapis.com/index.html
    浏览器版本和驱动版本的对应关系表:             
      https:
    //blog.csdn.net/huilan_same/article/details/51896672
    #使用下面的方法,查找指定的元素进行操作即可
        find_element_by_id            根据id找节点
        find_elements_by_name         根据name找
        find_elements_by_xpath        根据xpath查找
        find_elements_by_tag_name     根据标签名找
        find_elements_by_class_name   根据class名字查找
    import time
    from selenium import webdriver
    
    # 创建一个浏览器对象, 参数 executable_path 驱动路径
    bro = webdriver.Chrome(executable_path='./chromedriver.exe')
    
    # get 方法可以指定一个url, 让浏览器进行请求
    bro.get('https://www.baidu.com')
    
    # time.sleep(2)
    
    # 让百度进行指定词条的搜索
    text = bro.find_element_by_id(id_='kw')  # 定位到text文本框
    # send_keys表示向文本框中输入内容
    text.send_keys('人民币')
    
    # time.sleep(2)
    
    # 进行搜索操作
    button = bro.find_element_by_id('su')
    # 点击搜索按钮
    button.click()
    # 关闭浏览器
    bro.quit()

    10-phantomJs的使用

    # phantomJs: 无界面浏览器,其自动化流程同上述的谷歌自动化流程一致。
    
    from selenium import webdriver
    
    # 创建浏览器
    bro = webdriver.PhantomJS(executable_path='./phantomjs')
    
    # 打开浏览器
    bro.get('https://www.baidu.com')
    
    # 截屏操作
    bro.save_screenshot('./1.png')
    
    # 让百度进行指定词条的搜索
    text = bro.find_element_by_id(id_='kw')  # 定位到text文本框
    # send_keys表示向文本框中输入内容
    text.send_keys('人民币')
    
    # 进行搜索操作
    button = bro.find_element_by_id('su')
    # 点击搜索按钮
    button.click()
    
    # 截屏操作
    bro.save_screenshot('./2.png')
    
    bro.quit()

    项目实战:使用selenium+phantomJs处理页面动态加载数据的爬取

    # 需求:获取豆瓣电影中动态加载出更多电影详情数据
    
    from selenium import webdriver
    from time import sleep
    
    bro = webdriver.PhantomJS(executable_path='./phantomjs')
    
    url = 'https://movie.douban.com/typerank?type_name=%E5%96%9C%E5%89%A7&type=24&interval_id=100:90&action='
    bro.get(url)
    
    sleep(1)
    # 截屏
    bro.save_screenshot('./1.png')
    
    # 编写js代码:让页面中的滚轮向下滑动(底部)
    js = 'window.scrollTo(0,document.body.scrollHeight)'
    # 如何让浏览器对象执行js代码
    bro.execute_script(js)
    
    sleep(1)
    # 截屏
    bro.save_screenshot('./2.png')
    
    bro.execute_script(js)
    bro.save_screenshot('./3.png')
    
    # 获取加载数据后的页面:page_sourse获取浏览器当前的页面数据
    page_text = bro.page_source
    
    print(page_text)
  • 相关阅读:
    CA 证书和数字证书
    PHP获取不了内网IP?
    站点速度检测工具
    Mac地址
    交互机和路由器区别
    关于实体店收银系统和cookie实现登录状态
    Python3 的序列
    Python3 字符串格式化
    Python3 的元组
    Python3 的列表
  • 原文地址:https://www.cnblogs.com/pgxpython/p/9955757.html
Copyright © 2020-2023  润新知