今天上午,10点多,一个爬虫疯狂的爬网,造成了网站访问速度很慢。
出现问题时,IIS同时连接达到2500左右,Web服务器CPU占用100%。
通过分析访问记录,发现了作恶者:
User Agent:larbin_2.6.3 larbin2.6.3@unspecified.mail
IP地址:202.106.182.189
访问行为:同时对多个RSS进行访问。
访问频繁:在取样的一分钟内,访问次数达500多次。
在IIS中屏蔽了该IP地址,网站才恢复正常,IIS同时连接降到1500以下。
准备采取的防范措施:对在指定的时间内访问次数过多的爬虫进行屏蔽。