网站是否需要禁止一些不知名的蜘蛛

创新互联建站导读：不需要！不管是除百度以外的搜索引擎蜘蛛，还是其他非搜索引擎的蜘蛛，通常都不需要去禁止！

成都创新互联网站建设提供从项目策划、软件开发，软件安全维护、网站优化(SEO)、网站分析、效果评估等整套的建站服务，主营业务为做网站、成都网站建设，app软件开发以传统方式定制建设网站，并提供域名空间备案等一条龙服务，秉承以专业、用心的态度为用户提供真诚的服务。成都创新互联深信只要达到每一位用户的要求，就会得到认可，从而选择与我们长期合作。这样，我们也可以走得更远！

问题：网站是否需要禁止一些不知名的蜘蛛？

回答：不需要！不管是除百度以外的搜索引擎蜘蛛，还是其他非搜索引擎的蜘蛛，通常都不需要去禁止！

为什么说网站不需要去禁止这些蜘蛛呢？我们不妨来简单分析下，通常蜘蛛分为真正的搜索引擎蜘蛛和非搜索引擎蜘蛛，基本上这些蜘蛛都不会给网站带来不好的影响。

百度以外的搜索引擎蜘蛛

有些朋友可能走了极端，就认定了百度搜索，所以干脆把其他搜索引擎的蜘蛛都给禁止了。这种做法肯定是不合理的，比如说创新互联前端时间被降权，百度来的流量几乎为零了，但360和bing每天稳定要200+的流量。

大家不要小看任何一个搜索引擎，只要你的网站内容和用户体验好，那些看似市场份额不大的搜索引擎，也可以带来稳定的流量。创新互联的页面数量少，总计不过3000多点，即便如此，在360和bing也能获得稳定搜索量。如果你的站点收录达到10万+，甚至百万+，那么是不是也能获得上千、过万的流量呢？

所以，不要随便去禁止任何一个搜索引擎的蜘蛛，禁止它们就等于放弃部分流量！

假的搜索引擎蜘蛛

除了真正的搜索引擎蜘蛛，其他所谓的蜘蛛就都是假的了！

这些假的蜘蛛是否需要禁止呢？创新互联认为也没有必要，原因有两个：

1、站长工具的蜘蛛

我们在使用站长工具查询的时候，站长工具往往会设置伪装的蜘蛛去爬行，这些蜘蛛看着像是搜索引擎蜘蛛，其实是假的。如果我们都统计禁止这些蜘蛛的话，在使用站长工具的时候就会出现问题。

2、纯假蜘蛛

比如那些采集工具，他们在采集的时候也会使用伪装的蜘蛛，想要真正禁止这些蜘蛛基本是不可能的，因为它们可以每次都不同！对于这样的假蜘蛛，是禁止不过来的。

总之而言，我们对于蜘蛛不需要那么苛刻，只要不给服务器造成压力就没问题。通常搜索引擎会去评估服务器的承载，会自己控制爬行抓取的量。而其他假的蜘蛛也不可能频繁的来抓取，因为我们的站点不可能有那么多信息值得别人这么做。而那些大站，有着高配置的服务器，这点蜘蛛抓取量影响不了他们。

分享文章：网站是否需要禁止一些不知名的蜘蛛
本文来源：http://scjbc.cn/article/cideec.html