当前位置:首页搜索引擎会不会抓取带#号(哈希值)的URL 举报文章

搜索引擎会不会抓取带#号(哈希值)的URL

作者:admin    来源:用户投稿    时间:2015.6.10   

  在我的网站各个地址中,难免出现一些带#的URL,一般是通过点击某个链接,跳转到网页的某个位置,实现信息内容的快速定位。本站使用的文章内目录就是这样做的。但是,这种带#的URL搜索引擎会被收录吗?

  1、什么是哈希值?

  在阮一峰的博客中有一篇文章可以很好的解释哈希值,#值不是http请求,而是一个浏览器动作。通过#,可以快速定位到网页中的某个具体位置。例如http://www.souluseo.com/post/122.html#comment-121,就会快速定位到id="comment-121"或这个位置。

  2、搜索引擎会不会抓取带#号(哈希值)的URL

  答案是一般不会。搜索引擎抓取页面首先要遵循http协议,可是#不是协议内的内容。而实际上也是这样,我们没有见过搜索引擎的搜索结果中,哪一条记录可以快速定位到网页内的某个位置的。因此,希望通过在网站内外添加带#的锚链接来让搜索引擎第一次访问时快速定位是不现实的。当然,搜索引擎蜘蛛为了模拟真实用户,在进入网站之后,会通过一些技术实现模拟鼠标点击的效果,这个时候,页面的锚链接还是起作用,但任何链接在搜索结果中时,都不会带#。

  3、URL 中的 #! 有什么作用?

  这是一个违反2中的特例,谷歌会抓取带有#!的URL。Google规定,如果你希望Ajax生成的内容被浏览引擎读取,那么URL中可以使用"#!"(这种URL在一般页面一般不会产生定位效果),Google会自动将其后面的内容转成查询字符串_escaped_fragment_的值。例如/#!/username等效于/?_escaped_fragment_=/username,而带?的URL是会被抓取的,所以#!的URL会被谷歌收录。

  4、搜索引擎会不会抓取带#号(哈希值)的URL给我们的启示

  一、不要试图用robots.txt屏蔽#的网址。我之前翻过一个错误,即在嗖录网的robots.txt中加入了disallow:/*#*规则,以试图屏蔽这些带#的URL被抓取。但实际上,这个做法是错误的,首先#在robots.txt是注释符号,它后面的内容会被注释掉,所以这条规则变成了disallow:/*,即阻止收录本站所有页面,幸好我在今早发现,并马上进行了修改。其次,搜索引擎不会抓取带#的URL,因此没有必要加一条这样的规则。

  二、可以利用#和ajax结合来隐藏不想被抓取的内容。在我们的一些网页中,可能有些内容是我们不想直接告诉搜索引擎的,或者一些隐私不希望被抓取,因此我们可以采用#来控制这些信息的显示。例如我们增加一个按钮,当URL中带#show-info-123时,显示123的个人信息,而不带时不显示。而对于搜索引擎来说,会自动忽略带#的URL,因此123的个人信息不会被抓取。

  文章来自:嗖录网;原文地址:http://www.souluseo.com/search-engine-dont-catch-hash-url/ 欢迎大家来嗖录网交流SEO经验与技术。

好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:搜索  搜索引擎  索引  引擎  会不  会不会  不会  抓取  哈希  
  • 相关搜索
图片推荐
    怎样分析大小型网站外链的正确数据?

    怎样分析大小型网站外链的正确数据?

    网站外链是提高搜索引擎排名的一项因素之一,一直以来都受到广大seo人员关心,也是网站优化人员必须去分析的数据。随着这几年各大搜索引擎对网站外链的打击,获得高质量的链接越来越不容易,越来得到的外链才是最
    SEO小技巧引爆网站权重

    SEO小技巧引爆网站权重

    一般情况之下站长们都认为首页权重高了,自然可以带动内页从而获得高流量和高排名,所以90%的站长都是从首页与目标关键词开始入手优化网站。但是今天笔者的方法恰恰与大家相反,这是我半年之前开始优化的一个网站
    巨大漏洞之下的微商,好日子能到几时

    巨大漏洞之下的微商,好日子能到几时

    互联网电子商务的发展之所以能够扭转传统的用户购买习惯,其中一条关键的原因在于创建了一整套的购买-担保支付-评价-最终支付的闭环,最终使得人们对电子商务产生了足够的信任。反观微商,因为大多是基于朋友圈的
    推荐:站长深度解读《百度网页质量白皮书》

    推荐:站长深度解读《百度网页质量白皮书》

    《百度搜索引擎网页质量白皮书》PDF完整版在文库上线后,下载量已达4800余次,阅读量接近22000次,在站长界、SEO圈引发热议。最近小编发现一位网友的解读很有深度,特意推荐给大家参考,百度站长平台
    江湖装修O2O系统企业版有哪些特色功能?

    江湖装修O2O系统企业版有哪些特色功能?

    前不久江湖信息科技发布家居门户系统中一个很重要的版本企业版,大家不要把它和我们的装企营销系统给弄混了,他们是两个完全不一样的概念,一个是做装修平台的,一个是做装修企业站的;企业版相对之前的家居门户标准
    电商“进村”:阿里京东加速布局农村生态圈

    电商“进村”:阿里京东加速布局农村生态圈

    核心摘要  城市用户增长放缓,流量红利时代结束,电商企业急需新的增量,来维持平台的高速发展。这种情况下,农村市场自然成了电商平台觊觎的目标。眼下,阿里和京东正纷纷加快进军农村市场的步伐。那么,互联网将
    5个月从流水几万到7千万的营销案例

    5个月从流水几万到7千万的营销案例

    最近累积了比较多的经验和见识,所以最近都在写东西,今天要和大家分享一个非常出色的案例。希望对大家有帮助。  因为经常会分享一些电商和站长类的经验所以我大部分的粉丝都是微商和站长类的,每天我打开朋友圈看
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面