反扒机制代理操作及验证码的识别

反扒机制：代理操作

代理操作：

• 在爬虫中，所谓的代理指的是什么？

  • 就是代理服务器

• 代理服务器的作用：

  • 就是用来转发请求和响应的

• 在爬虫中为什么需要使用代理服务器：

  • 如果我们的爬虫对服务器短时间内发出高频请求。那么服务器检测到这样一个异常请求，就会将该请求的对应设备IP禁掉，这样就无法给服务器发请求获取数据了！
  • 如果ip被禁，我们就可以使用代理服务器进行请求转发，破解ip被禁的反爬机制。因为使用代理后，服务器端接受到的请求对应的ip地址就是代理服务器而不是我们真正的客户端的。

• 代理服务器分为不同的匿名度：
  - 透明代理：如果使用了该形式的代理，服务器端知道你使用了代理机制也知道你的真实ip。
  - 匿名代理：知道你使用代理，但是不知道你的真实ip
  - 高匿代理：不知道你使用了代理也不知道你的真实ip
  - 代理的类型
  - https：代理只能转发https协议的请求
  - http：转发http的请求
  - 代理服务器：
  - 快代理
  - 西祠代理
  - goubanjia
  - 代理精灵（推荐）：http://http.zhiliandaili.cn/)

  • 封装一个代理池

    from lxml import etree
    #以下这网址就是你用代理。代理给你的
    url = 'http://t.11jsq.com/index.php/api/entry?method=proxyServer.generate_api_url&packid=1&fa=0&fetch_key=&groupid=0&qty=4&time=1&pro=&city=&port=1&format=html&ss=5&css=&dt=1&specialTxt=3&specialJson=&usertype=2'
    page_text = requests.get(url,headers=headers).text
    tree = etree.HTML(page_text)
    proxy_list = tree.xpath('//body//text()')
    http_proxy = [] #代理池
    for proxy in proxy_list:
        dic = {
            'http':proxy
        }
        http_proxy.append(dic)
    http_proxy
    结果;
    [{'http': '58.243.28.218:33503'},
     {'http': '114.106.151.234:10566'},
     {'http': '114.252.50.79:11484'},
     {'http': '106.7.4.131:28803'}]
    

    对西祠代理发起一个高频的请求，让其将我本机ip禁掉

    url = 'https://www.xicidaili.com/nn/%d'
    ips = []
    for page in range(1,11):
        new_url = format(url%page)
        page_text = requests.get(url=new_url,headers=headers).text
        tree = etree.HTML(page_text)
        #在xpath表达式中不可以出现tbody标签
        tr_list = tree.xpath('//*[@id="ip_list"]//tr')[1:]
        for tr in tr_list:
            ip = tr.xpath('./td[2]/text()')[0]
            ips.append(ip)
    print(len(ips))
    

    使用代理机制破解ip被封的效果

    #代理池对应的代码
    url = 'http://ip.11jsq.com/index.php/api/entry?method=proxyServer.generate_api_url&packid=1&fa=0&fetch_key=&groupid=0&qty=29&time=1&pro=&city=&port=1&format=html&ss=5&css=&dt=1&specialTxt=3&specialJson=&usertype=2'
    page_text = requests.get(url,headers=headers).text
    tree = etree.HTML(page_text)
    proxy_list = tree.xpath('//body//text()')
    http_proxy = [] #代理池
    for proxy in proxy_list:
        dic = {
            'https':proxy
        }
        http_proxy.append(dic)
    
    #url模板
    url = 'https://www.xicidaili.com/nn/%d'
    ips = []
    for page in range(1,11):
        new_url = format(url%page)
        #让当次的请求使用代理机制，就可以更换请求的ip地址
        #requests模块有代理参数！！
        page_text = requests.get(url=new_url,headers=headers,proxies=random.choice(http_proxy)).text
        tree = etree.HTML(page_text)
        #在xpath表达式中不可以出现tbody标签
        tr_list = tree.xpath('//*[@id="ip_list"]//tr')[1:]
        for tr in tr_list:
            ip = tr.xpath('./td[2]/text()')[0]
            ips.append(ip)
    print(len(ips))
            
    

验证码的识别

• 基于线上的打码平台识别验证码

• 打码平台

  • 1.超级鹰（使用）：

    http://www.chaojiying.com/about.html

    • 1.注册【用户中心的身份】
    • 2.登录（用户中心的身份）
      • 1.查询余额，请充值
      • 2.创建一个软件ID（899370）
      • 3.下载示例代码

  • 2.云打码

  • 3.打码兔

  这是超级鹰的示例代码
  import requests
  from hashlib import md5
  
  class Chaojiying_Client(object):
  
      def __init__(self, username, password, soft_id):
          self.username = username
          password =  password.encode('utf8')
          self.password = md5(password).hexdigest()
          self.soft_id = soft_id
          self.base_params = {
              'user': self.username,
              'pass2': self.password,
              'softid': self.soft_id,
          }
          self.headers = {
              'Connection': 'Keep-Alive',
              'User-Agent': 'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 5.1; Trident/4.0)',
          }
  
      def PostPic(self, im, codetype):
          """
          im: 图片字节
          codetype: 题目类型 参考 http://www.chaojiying.com/price.html
          """
          params = {
              'codetype': codetype,
          }
          params.update(self.base_params)
          files = {'userfile': ('ccc.jpg', im)}
          r = requests.post('http://upload.chaojiying.net/Upload/Processing.php', data=params, files=files, headers=self.headers)
          return r.json()
  
      def ReportError(self, im_id):
          """
          im_id:报错题目的图片ID
          """
          params = {
              'id': im_id,
          }
          params.update(self.base_params)
          r = requests.post('http://upload.chaojiying.net/Upload/ReportError.php', data=params, headers=self.headers)
          return r.json()
  
  

  然后自己写个函数实例化超级鹰

  def tranformImgCode(imgPath,imgType):
      chaojiying = Chaojiying_Client('bobo328410948', 'bobo328410948', '899370')
      im = open(imgPath, 'rb').read()
      return chaojiying.PostPic(im,imgType)['pic_str']
  print(tranformImgCode('./a.jpg',1902))
  7261
  

  模拟登录

  • 流程：
    • 对点击登录按钮对应的请求进行发送（post请求）
    • 处理请求参数：
      • 用户名
      • 密码
      • 验证码
      • 其他的防伪参数

  #这里别忘记带上cookie！！！
  session = requests.Session()
  
  #识别验证码
  url = 'https://so.gushiwen.org/user/login.aspx?from=http://so.gushiwen.org/user/collect.aspx'
  page_text = session.get(url=url,headers=headers).text
  #解析验证码图片的地址
  tree = etree.HTML(page_text)
  img_src = 'https://so.gushiwen.org'+tree.xpath('//*[@id="imgCode"]/@src')[0]
  #将验证码图片保存到本地
  img_data = session.get(img_src,headers=headers).content
  with open('./code.jpg','wb') as fp:
      fp.write(img_data)
      
  #识别验证码
  code_text = tranformImgCode('./code.jpg',1902)
  print(code_text)
  login_url ='https://so.gushiwen.org/user/login.aspx?from=http%3a%2f%2fso.gushiwen.org%2fuser%2fcollect.aspx'
  data = {
      '__VIEWSTATE': '4iQUDYGYp480//d8dSe+k037Ut9ijESlrJJLPgCEsA+C4EAmEQV4h+p/G4sKwsGz2mFdGeIE+TS8T6Gru2w14b4n2qfsxdeB4caV4zXWhLNTbDM9m/heuikk8S4=',
      '__VIEWSTATEGENERATOR': 'C93BE1AE',
      'from': 'http://so.gushiwen.org/user/collect.aspx',
      'email': 'www.zhangbowudi@qq.com',
      'pwd': 'bobo328410948',
      'code': code_text,#动态变化
      'denglu': '登录',
  }
  #对点击登录按钮发起请求:获取了登录成功后对应的页面源码数据
  page_text_login = session.post(url=login_url,headers=headers,data=data).text
  with open('./gushiwen.html','w',encoding='utf-8') as fp:
      fp.write(page_text_login)
     
  

发现上图参数中有2组乱码参数。

• 在请求参数中如果看到了一组乱序的请求参数，最好去验证码这组请求参数是否为动态变化。

• 处理：

  • 方式1：常规来讲一半动态变化的请求参数会被隐藏在前台页面中，那么我们就要去前台页面源码中取找。

- 方式2：如果前台页面没有的话，我们就可以基于抓包工具进行全局搜索。