有关奇虎360违反“Robots协议”早已在网络上流传,开始龙形一直不相信这是真的,毕竟作为搜索引擎冉冉上升的新星,很多站长都给予其太多的期待。还记得去年360搜索的横空出世并迅速占领国内搜索引擎10%的市场份额,并一举打破谷歌中国、搜狗等成为老二,甚至很多人都在语言在不仅的将来其会成为百度有力的竞价者。我们乐见他的成长,并期望其为我们的搜索提供更好的服务,进而引领这个行业不断向着更好的方向发展。
robots协议自其诞生以来就被各大搜索引擎所认可,大部分搜索引擎在检索站点时都会事先查看有无robots协议,一旦有不允许抓取内容时都会自动的回避。这不仅仅是搜索引擎对站点主人的尊重,也是行业发展的规则,虽然没有明文规定但如果某个搜索引擎忽视这些的话,很容易被认为是强盗行为。这也就是很多站长在新网站刚上线期,如果程序或者内容或者结果等还没有最终确定时,都会通过robots协议屏蔽各个搜索引擎,直到其认为满意后才会删除,这不仅仅是为了后期的优化,更能有效的杜绝企业一些不成熟的内容在互联网上传播。
龙形近来为公司建设一个有关土壤养分速测仪和农药残留检测仪的网站,域名为www.nongdaxunjie.com,由于前期处于程序的调整和文章内容的添加,就通过robots协议对所有的搜索引擎进行了屏蔽。由于日常所处工作较多,也就是在空闲的时间对网站进行修改,进过一个月的反复调整后才在12月9号去除网站的robots协议。今天通过站长工具查询时意外的发现360收录了首页,开始还以为360收录如此快速,昨晚才允许抓取网站今天就有快照了,然而细看网站收录的快照才发现竟然是2013.12.8。按时我是9号才去除robots协议,360即使抓取如此快速也不该是8号的快照呀,后经过网上查询才意识到网站的robots协议很可能被奇虎360给忽视了,如图:

龙形通过搜索奇虎360违反robots协议后发现很多条有关360违反robots协议的内容,其中最多的就是有关百度告360违反robots协议的新闻,当然也有一些帖子关于360不遵守robots带给网站的维护。尽管奇虎老总周鸿祎明确的指出360搜索没有违反robots协议,但通过龙形今天的遭遇和互联网上众多帖子的介绍,不管是有意或者无意,360的确违反了robots协议。尽管360也介绍说robots协议不应该成为一个壁垒,这样对行业不利,而且已经有现成的法律和技术手段去解决这个问题,但大多数站长从内心来说还是希望奇虎360能够遵循robots协议。
那龙形不禁要问了,既然360老总明确的指出综合搜索不违反robots协议,那么龙形的这个网站是意外还是无视?作为行业的新星,360一直把自己塑造成行业的规范者,如果要是意外到还有情可原,毕竟360综合搜索推出没有多久,在技术上还有很大的提升空间。如果是刻意的无视,那么必然会导致众多的站长心寒了,毕竟我们寄托了那么多的希望,并期待360真的像老总所宣传的那样,净化搜索引擎环境,更好的为网名提供优质的搜索服务。还记得古代剑客们的那句名言:要想得对手的尊重,首先我们要尊重自己的对手。
因此,从内心中来说,我更愿意认为此次只不过是个意外,更期待奇虎360能够不断改进自己的索引技术,更好的服务广大网民用户,才能真正意义上获得市场认可。