技术选型
在后期项目跑通之后我们可以选用Zookeeper来实现监控功能。
部署方案
爬虫项目:堕胎服务器
网站爬虫分类URL定时项目:一台服务器
Hbase数据库:集群
Solr服务器:集群
Redis服务器:集群
爬虫监控项目:一台服务器
Web项目:多台服务器
Zookeeper服务器:集群
执行流程
技术选型
在后期项目跑通之后我们可以选用Zookeeper来实现监控功能。
部署方案
爬虫项目:堕胎服务器
网站爬虫分类URL定时项目:一台服务器
Hbase数据库:集群
Solr服务器:集群
Redis服务器:集群
爬虫监控项目:一台服务器
Web项目:多台服务器
Zookeeper服务器:集群
执行流程