• 36.99.136.*和111.7.100.*两个IP段探究


    最近网站被这两个IP段频繁爬取,压力巨大。网上查询一番,这里简单谈谈。

    1、首先是nslookup反查,什么也查不到,按理说这应该不是什么正规蜘蛛。

    2、考虑到有不少匿名蜘蛛,像百度站长工具的robots检测,抓取xml地图的都时临时工蜘蛛,对比下测试的IP段也大概率不是匿名蜘蛛。

    3、网上唯一找到的zhangu网上的信息说是匿名蜘蛛,不过抓取很奇怪,没有入口的URL也抓的到,够牛逼的。

    最后的结论:全部屏蔽掉了。观察了几天,貌似对搜索引擎的抓取并无影响,并未有明显的抓取量,索引量等变化。

  • 相关阅读:
    CI控制器
    php+mysql新无线级分类
    php函数引用
    java数据类型
    进制装换
    java环境
    node.js
    移动端或者网页端下拉加载
    yii DAO操作总结
    yii中find()指定条件
  • 原文地址:https://www.cnblogs.com/jackMRchen/p/14020149.html
Copyright © 2020-2023  润新知