• [Python]网络爬虫(六):一个简单的百度贴吧的小爬虫


    转自:http://blog.csdn.net/pleasecallmewhy/article/details/8927832

    # -*- coding: utf-8 -*-
    #---------------------------------------
    #   程序:百度贴吧爬虫
    #   版本:0.1
    #   作者:why
    #   日期:2013-05-14
    #   语言:Python 2.7
    #   操作:输入带分页的地址,去掉最后面的数字,设置一下起始页数和终点页数。
    #   功能:下载对应页码内的所有页面并存储为html文件。
    #---------------------------------------
     
    import string, urllib2
     
    #定义百度函数
    def baidu_tieba(url,begin_page,end_page):   
        for i in range(begin_page, end_page+1):
            sName = string.zfill(i,5) + '.html'#自动填充成六位的文件名
            print '正在下载第' + str(i) + '个网页,并将其存储为' + sName + '......'
            f = open(sName,'w+')
            m = urllib2.urlopen(url + str(i)).read()
            f.write(m)
            f.close()
     
      
    #-------- 在这里输入参数 ------------------
    
    # 这个是山东大学的百度贴吧中某一个帖子的地址
    #bdurl = 'http://tieba.baidu.com/p/2296017831?pn='
    #iPostBegin = 1
    #iPostEnd = 10
    
    bdurl = str(raw_input(u'请输入贴吧的地址,去掉pn=后面的数字:
    '))
    begin_page = int(raw_input(u'请输入开始的页数:
    '))
    end_page = int(raw_input(u'请输入终点的页数:
    '))
    #-------- 在这里输入参数 ------------------
     
    
    #调用
    baidu_tieba(bdurl,begin_page,end_page)
  • 相关阅读:
    【Learning】积性函数前缀和——洲阁筛(min_25写法)
    GDOI2018记录
    最近公共祖先(一道题目)
    Counting
    【BZOJ4872】【Shoi2017】分手是祝愿
    【BZOJ2654】tree
    数学竞赛
    A
    【bzoj 3131】[Sdoi2013]淘金
    【Never Stop】联赛集训记录
  • 原文地址:https://www.cnblogs.com/chjbbs/p/3533337.html
Copyright © 2020-2023  润新知