• urllib中的User-Agent使用


      下面主要是python3中的urllib库中的相关知识及User-Agent设置:

            一、什么是User-Agent?
      
      User-Agent是Http协议中的一部分,属于头域的组成部分,User Agent也简称UA。用较为普通的一点来说,是一种向访问网站提供你所使用的浏览器类型、操作系统及版本、CPU 类型、浏览器渲染引擎、浏览器语言、浏览器插件等信息的标识。UA字符串在每次浏览器 HTTP 请求时发送到服务器!
      
      浏览器UA 字串的标准格式为: 浏览器标识 (操作系统标识; 加密等级标识; 浏览器语言) 渲染引擎标识 版本信息。

      二、User-Agent在python3中的urllib使用:

    #如果一个网站屏蔽了你
    #解决办法: (1)模拟浏览器  ; (2)伪装浏览器
    import urllib.request
    def download1(url):
        headers={"User-Agent" : "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/63.0.3239.132 Safari/537.36 QIHU 360SE"}  #header 字典形式
        #选择代码  ctrl + 鼠标左键 查看变量或者函数或者类的定义
        request=urllib.request.Request(url,headers=headers)   # 发送请求
        #也可以通过调用Request.add_header()  添加/修改一个特定的  header
        request.add_header("Connection","keep-alive")  #一直活着
        response=urllib.request.urlopen(request)  #打开请求
        data=response.read()    #读取数据
        print(response.code)    #可以查看相应状态码
        return data
    url="https://sou.zhaopin.com/?jl=538&kw=python&kt=3"
    print(download1(url).decode("utf-8"))    #decode("utf-8")  二进制解码为utf-8
  • 相关阅读:
    C++中图片重命名
    linux 常用shell命令之wc
    Linux shell命令之cat
    linux 常用shell命令 ls
    开启博客之旅
    C#并行编程之Parallel的使用
    centos7下安装iperf时出现 make: *** No targets specified and no makefile found. Stop.的解决方案
    勒索病毒场景模拟及原理
    测试用例覆盖分类
    Centos 7下Hadoop分布式集群搭建
  • 原文地址:https://www.cnblogs.com/my-global/p/12441088.html
Copyright © 2020-2023  润新知