• 【Visio流程图】借助redis来实现数据即时刷新


    ╭────────────────────────────────────────────────────────────╮
    ║..作者发现,本文被多个博客和网站转发。赠人玫瑰,手有余香!......................................................║
    ║..本文版权归作者和博客园共有,欢迎转载,转载请注明出处: https://www.cnblogs.com/buguge
    ╰────────────────────────────────────────────────────────────╯


    【应用:】2个应用:【需求:】数据从竞品网站爬过来,经过分析处理之后,把结果通过网页实时反馈给业务人员。

    • 一个是爬取数据的应用:不断从竞品网站爬数据,每次爬到的数据为一批。然后,对每一批爬到的数据进行清洗和分析,生成唯一批次号(batch_no),将分析结果持久化入库。
    • 一个是展示页面:实时刷新持久化的分析结果。

    【起初方案】见如下visio流程图。

    缺点很明显:网页一直刷库。这样,数据表会存在频繁读写,db压力大。

     【改造方案】借助redis。见如下visio流程图。 

    众所周知,读分布式缓存比读数据库在性能方面要快多了,所以可以在极短的时间间隔内读redis,一旦发现有变化,就读库获取最新数据。

    当然,直接将每一批的分析结果数据直接放到redis里,是更好的选择。

  • 相关阅读:
    CentOS查找目录或文件
    vim使用
    解决Bat脚本中包含中文,运行乱码
    Window系统下搭建GIT本地服务器
    Django1.6 运行manage.py 报错解决办法(ImportError)
    centos7下使用yum安装pip
    hiho_1048_状态压缩2
    hiho_1044 状态压缩
    hiho_1041 国庆出游
    hdu_3555 bomb
  • 原文地址:https://www.cnblogs.com/buguge/p/11514772.html
Copyright © 2020-2023  润新知