2.Python爬虫入门_requests

#2019-11-23
#requests的api使用非常简单
import requests
import time

if __name__=='__main__':
    # get请求
    url_get='http://www.httpbin.org/get'  #测试网站
    response_get=requests.get(url=url_get)
    #1.response.text 返回的是Unicode型的数据,适合得到文本
    #2.response.content 返回的是bytes型的数据,适合得到图片,视频(网络编程中，服务器和浏览器只认bytes类型数据)
    #2.response.headers 报文头
    print('get_text
',response_get.text)
    print('get_content
',response_get.content)
    print('get_header
',response_get.headers)
    print('


')

    # post请求(可以传递参数)
    url_post='http://www.httpbin.org/post'  #测试网站 
    response_post=requests.get(url=url_post,data={'name':'softpo','id':'pie'}) #以字典方式传递参数
    #对于真实网站,如果参数不对,可能根本无法获取返回
    #1.response_post.text
    #2.response_post.content
    #3.response_post.headers
    print('post_text
',response_post.text)
    print('post_content
',response_post.content)
    print('post_headers
',response_post.headers)
    
    #图片练习
    url_picture='http://c.hiphotos.baidu.com/image/pic/item/6c224f4a20a44623c3f7f2649722720e0cf3d7f3.jpg'
    response_picture=requests.get(url=url_picture)
    #创建一个.jpg文件,以二进制的方式进行写入
    with open('picture.jpg','wb') as fp: 
        content=response_picture.content
        fp.write(content)
        print('picture保存成功!')
        
        
    #百度贴吧   贴吧url尾号第一页0,第二页50,第三页100....
    url_tieba='http://tieba.baidu.com/f?kw=%E6%9D%AD%E5%B7%9E%E7%94%B5%E5%AD%90%E7%A7%91%E6%8A%80%E5%A4%A7%E5%AD%A6&ie=utf-8&pn='
    for i in range(10):
        print(url_tieba+str(i*50))
        response_tieba=requests.get(url_tieba)
        html=response_tieba.text
        with open('./TieBa/%d.html'%(i+1),mode='w',encoding='utf-8') as fp: #自己设定文件目录
            fp.write(html)
            print('贴吧第%d页保存成功!'%(i+1))
        time.sleep(2) #如果对方有防护措施,可以使用time.sleep(n)进行休眠一段时间(n秒)        

 详解链接:https://blog.csdn.net/shanzhizi/article/details/50903748