• 获取一篇新闻的全部信息


    作业的要求来自于:https://edu.cnblogs.com/campus/gzcc/GZCC-16SE2/homework/2894

    给定一篇新闻的链接newsUrl,获取该新闻的全部信息

    标题、作者、发布单位、审核、来源

    发布时间:转换成datetime类型

    点击:

    • newsUrl
    • newsId(使用正则表达式re)
    • clickUrl(str.format(newsId))
    • requests.get(clickUrl)
    • newClick(用字符串处理,或正则表达式)
    • int()

    整个过程包装成一个简单清晰的函数。

    尝试去爬取一个你感兴趣的网页。

    #获取一篇新闻的全部信息
    import re
    import requests
    from bs4 import BeautifulSoup
    from datetime import datetime
    
    url="http://news.gzcc.cn/html/2019/xiaoyuanxinwen_0320/11029.html"
    anews(url)
    
    #获取新闻编号
    def newsnum(url):
        newsid=re.match('http://news.gzcc.cn/html/2019/xiaoyuanxinwen_0320/(.*).html',url).group(1)
        return newsid
    
    #发布时间:转换成datetime类型
    def newstime(soup):
        newsdate=soup.select('.show-info')[0].text.split()[0].split(':')[1]
        newstime=soup.select('.show-info')[0].text.split()[1]
        time=newsdate+' '+newstime
        time=datetime.strptime(time,'%Y-%m-%d %H:%M:%S')
        return time
    
    
    #获取点击次数
    def click(url):
        id=re.findall('(d{1,5})',url)[-1]
        clickUrl='http://oa.gzcc.cn/api.php?op=count&id={}&modelid=80'.format(id)
        res=requests.get(clickUrl)
        click=res.text.split('.html')[-1].lstrip("('").rstrip("');")
        return click
        
    def anews(url):
        res=requests.get(url)
        res.encoding='utf-8'
        soup=BeautifulSoup(res.text,'html.parser')
        title=soup.select('.show-title')[0].text#标题
        author=soup.select('.show-info')[0].text.split()[2]#作者
        auditor=soup.select('.show-info')[0].text.split()[3]#审核
        comefrom=soup.select('.show-info')[0].text.split()[4]#来源
        detail=soup.select('.show-content')[0].text#内容
        newsid=newsnum(url)#新闻编号id
        time=newstime(soup)#发布时间
        clicktime=click(url)#点击次数
        p=print(" 编号:"+newsid+'
    '" 标题:"+title+'
    '+' 发布时间: ',time,author+'
    ',auditor+'
    ',comefrom+'
    '" 正文:"+detail+" 次数:"+clicktime)
        return p

  • 相关阅读:
    几种简单的素数判定法(转)
    在Ubuntu下编译WebKit源码
    Struts2+JSON特别让人恶心的一个问题
    强大的asp.net 绑定组件
    关于单点登陆的示例代码
    NHibernate 如何高效的数据翻页?
    FLEX学习网站大全
    pku1207
    windows7试用过程常见问题解答
    什么是HTTPS?
  • 原文地址:https://www.cnblogs.com/lb2016/p/10637157.html
Copyright © 2020-2023  润新知