• 39.爬虫管理模块总结


    Scrapy 爬虫项目管理:
    Scrapyd、scrapyd-client、Gerapy、spiderkeeper

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————
    1.scrapyd 是一个用于部署和运行scrapy项目的工具,通过它,可将写好的项目放到云主机并通过API控制运行。

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    2.scrapyd-client 

    将项目代码部署打包 scrapyd-deploy -h

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    3.Gerapy

    Gerapy 是一个Scrapy分布式管理模块。

    ————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————————

    4.Spiderkeeper 可对项目进行定时管理及可查看日志log

  • 相关阅读:
    C++课程的第一次实验
    First C++
    7-12 关于堆的判断
    大笨钟
    7-14 喊山
    L3-010 是否完全二叉搜索树 (30分)
    7-13 天梯地图
    7-10 排座位
    7-9 抢红包
    帅到没朋友
  • 原文地址:https://www.cnblogs.com/lvjing/p/9836398.html
Copyright © 2020-2023  润新知