• 6月10日


    今天我们又从建民老师手上拿到了新任务——爬取世界疫情数据并制作地图,原话是“中国疫情已经控制住了,所以现在做这个也没什么意思,我们来做个世界的吧”

    那么我们就来爬一下世界疫情数据吧

    来源还是腾讯的疫情数据平台——腾讯,暂时的神

    以下是数据爬取代码:

    复制代码
    # @Author Hero_poi
    import requests
    import json
    import pymysql
    
    # 获得页面信息
    session = requests.session()
    result = session.get('https://api.inews.qq.com/newsqa/v1/automation/foreign/country/ranklist')
    res = json.loads(result.text)
    s1 = json.dumps(res["data"])
    data_all = json.loads(s1)
    print(data_all[184])
    
    # 获取时间
    today = data_all[0]["y"] + '.' + data_all[0]["date"]
    data_p = []
    
    
    #构建数组
    for x in range(0, 185):
        name = data_all[x]["name"]
        continent = data_all[x]["continent"]
        date = data_all[x]["y"] + '.' + data_all[x]["date"]
        confirmAdd = data_all[x]["confirmAdd"]
        confirm = data_all[x]["confirm"]
        suspect = data_all[x]["suspect"]
        dead = data_all[x]["dead"]
        heal = data_all[x]["heal"]
        nowConfirm = data_all[x]["nowConfirm"]
        pk = name + date
        data_p.append([pk, name, continent, date, confirmAdd, confirm, suspect, dead, heal, nowConfirm])
    
    # 连接数据库
    conn = pymysql.connect(host="127.0.0.1", port=3306, user="root", password="260702266", database="hope", charset="utf8")
    cursor = conn.cursor()
    
    pro = "delete from datas where country = '马提尼克岛'"
    
    try:
        cursor.execute(pro)
        conn.commit()
    except:
        conn.rollback()
    
    count = 0
    
    sql = "insert into datas(id,country,continent,date,confirmAdd,confirm,suspect,dead,heal,nowConfirm) values(%s,%s," 
            "%s,%s,%s,%s,%s,%s,%s,%s) "
    try:
        count = count+1
        cursor.executemany(sql, data_p)
        conn.commit()
    except:
        conn.rollback()
        count = count + 1
    
    query = "update redodata set date = '" + today + "' where name = 'today'"
    
    try:
        cursor.execute(query)
        conn.commit()
    except:
        conn.rollback()
    
    try:
        cursor.execute(pro)
        conn.commit()
    except:
        conn.rollback()
    
    cursor.close()
    conn.close()
    复制代码

    这一段中删除马克提尼岛的原因是该地区的疫情数据一直停留在2020年的某天,我们的主键是时间和地名,这样就会触发回滚事件……

    另外我们还建了一个标记最后爬取日期的表,以便咱们搭建网站时使用

  • 相关阅读:
    co模块总结
    Promise总结
    webpack错误Chunk.entry was removed. Use hasRuntime()
    jquery validate用法总结
    node命令行开发
    animation总结
    formData使用总结
    vue-resource发送multipart/form-data数据
    keil中使用Astyle格式化你的代码的方法-keil4 keil5通用
    tcpip入门的网络教程汇总
  • 原文地址:https://www.cnblogs.com/ldy2396/p/14911981.html
Copyright © 2020-2023  润新知