网站的根目录下有一个文件robots.txt ，它是啥？

 

我相信很多人有过这个疑问，这个robots文件是干嘛的？

我想问，各位搜索淘宝时，是否发现（禁止爬虫抓取提供快页）

关于详细语法，请看：http://zhidao.baidu.com/question/135866525565426005.html?http_skip=1