问题描述：
页面每天只有几个IP访问，流量却在短时间内消耗殆尽。
问题分析：
通过流量统计报告查看到百分之八十的流量都是来自蜘蛛爬虫。
解决方案：
编写robots.txt文件上传到网站根目录中。
使用类似于“Disallow:/ 禁止允许”的规则对蜘蛛爬虫进行禁止。减少蜘蛛抓取对网页产生的流量。
注意：这样做虽然能减少不必要的流量。但是会影响到网页的权重值。在设定的时候。请自行斟酌取舍。
【思途服务器】搜索引擎蜘蛛爬虫流量说明
运营熊
2016-10-26