• day01 urllib.request 的简单使用


     简单网络爬虫案例
    1
    import urllib.request 2 3 # 请求百度地址 4 url = "http://www.baidu.com/" 5 # get请求 6 response = urllib.request.urlopen(url) 7 # 将文件获取内容转换成字符串 8 data = response.read().decode("utf-8") 9 10 # 将数据写入文件 11 with open("baidu.html","w",encoding="utf-8") as f : 12 f.write(data) 13 # python爬取回来的数据: str byte 14 # 如果爬回来是bytes类型 : 但是你写入的时候需要字符串 decode("utf-8") 15 # 如果爬回来是str类型 : 但是你写入的时候需要bytes encode("utf-8")
     中文关键转译获取
    1
    import urllib.request 2 import urllib.parse 3 import string 4 5 #请求百度地址 6 url = "http://www.baidu.com/s?wd=" 7 8 #拼接字符串(汉字) 9 name = "美女" 10 final_url = url + name 11 12 #将包含汉字的网址进行转译 13 new_url=urllib.parse.quote(final_url,safe=string.printable) 14 15 #打印转译字符 16 print(new_url) 17 18 #get的请求 19 response = urllib.request.urlopen(new_url) 20 21 # 将文件获取内容转换成字符串 22 data = response.read().decode() 23 24 #将爬取到的数据保存到本地 25 with open("baidu.html","w",encoding = "utf-8") as f : 26 f.write(data)
  • 相关阅读:
    HTML & CSS
    Python面向对象编程
    Python 内置函数
    Python函数
    三.python高级
    使用loadrunner编写webservice接口请求
    loadrunner中JavaVuser脚本的编写
    loadrunner 参数化取值方式详解
    loadrunner 参数化-如何从数据库中取数据-连接数据库进行参数化
    vmstat命令参数介绍
  • 原文地址:https://www.cnblogs.com/mai1994/p/10719886.html
Copyright © 2020-2023  润新知