当前位置:首页如何让网站页面内容不被抓取? 举报文章

如何让网站页面内容不被抓取?

作者:admin    来源:用户投稿    时间:2015.6.10   

  可能有的朋友会奇怪,网站的页面不是让搜索引擎抓的越多越好吗,怎么还会有怎么让网站页面内容不被抓取的想法。

  首先,一个网站可以分出去的权重是有限,哪怕是Pr10的站,也不可能无限的分权重出去。这权重包括链到别人网站的处链以及自己网站内的内链。

  外链的话,除非是想坑被链的人。否则外链都是需要让搜索引擎所抓取。这不在本文讨论范围之内。

  而内链,因为有些网站有不少重复或冗余的内容。比如一些按条件查询的搜索结果。特别是一些B2C站,在专门查询页或在所有产品页面的某个位置内,都可以按产品类型,型号,颜色,大小等进行分类搜索。这些页面虽然对浏览者来说是极大的方便,但对搜索引擎来说,这可是耗费蜘蛛极大的抓取时间,特别是网站页面较多时。同时也会分散页面权重,对SEO不利。

  另外网站管理登陆页面,备份页面,测试页面等等,也是站长不想让搜索引擎所收录的。

  所以就有需要让网页的某些内容,或某些页面不被搜索引擎所收录。

  下面笔者先介绍一下较为有效的几种方法:

  1.在FLASH展示不想被收录的内容

  众所周知,搜索引擎对FLASH的内容抓取能力有限,不能完全抓取所有FLASH内的所有内容。但遗憾的是,也不能完全保证FLASH的所有内容都不会被抓取。因为谷歌和Adobe正努力的实现FLASH抓取技术。

  2.使用robos文件

  这是暂时最有效的方法,但有个很大的缺点。就是不传出任何的内容及链接。大家知道,在SEO来说比较健康的页面应该是有进有出的。有外链的链入,同时也页面内也需要有链到外部网站的链接,所以robots文件控制,让此页面只进不出,搜索引擎也不知道内容是什么。会把此页定为低质量页面。权重有可能受一定的惩罚。这个多用于网站管理页面,测试页面等。

  3.使用nofollow标签包裹不想被收录的内容

  这个方法也不能完全保证不被收录,因为这并不是严格要求遵守的标签。另外,如果有外部网站链向了有nofollow标签的页面。这样就很有可能会被搜索引擎抓取。

  4.用Meta Noindex标签加上follow标签

  这个方法可以做到防止收录而且还能传递出权重。要不要传递,看网站建设站长自己的需要。这个方法的缺点是,也是会较大的浪费蜘蛛的抓取页面时间。

  5.用robots文件的同时在页面上使用iframe标签展示需要搜索引擎收录的内容

  robots文件可以阻止iframe标签以外的内容被收录。所以,可以把不想收录的内容放到正常页面标签下。而想被收录的内容放在iframe标签内。

  紧接着,再说一下已经失效的方法,大家以后不要用这些方法了。

  1.使用表格

  谷歌和百度早已经能抓取表格用的内容了,无法阻止收录。

  2.使用javascript及Ajax技术

  以现在的技术来说,Ajax和javascript现在的最终运算的结果还是以HTML的形式传给浏览器以作显示,所以这同样无法阻止收录。

  初学者大多着眼于如何收录,但细节决定成败。怎么让网站页面内容不被抓取也是SEO进阶人士需要注意的。

  本文出自云南盈岚科技有限公司(http://www.ynynyn.com/website-process/),尊重作者劳动成果,请在转载时注明出处。

好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:如何  网站  页面  内容  不被  被抓  抓取  
  • 相关搜索
图片推荐
    十年光阴 Facebook在印度生根与发展

    十年光阴 Facebook在印度生根与发展

    摘要: 在中国提起社交软件人们的第一反应是微信,但在印度,Facebook家族已成为社交市场的老大。    在中国提起社交软件人们的第一反应是微信,但在印度,Facebook已成为社交市场的老大。20
    简单不需要投资的网络兼职

    简单不需要投资的网络兼职

    现在的网络世界如此发达,无论是在哪一个行业,他们都能够在网络上兴起一番风雨,但是呢,有一些人是非常保守的,他们不愿意在网络上进行任何的投资,但是呢也不要气馁,可以给大家推荐一个不需要投资的兼职,而这些
    杜一楠的反躬自省与24券的墓志铭

    杜一楠的反躬自省与24券的墓志铭

    杜一楠的这次出现,少了火药味,取而代之的是反躬自省的姿态。  24券倒了,创始人杜一楠静默了近三个月后再次出现。对他来说,去年9月份与投资方的那场互相指责弄得双方都不好看,最终公众对两者各自辩解的事实
    站长工具:爱站、去查站长工具哪个更好?

    站长工具:爱站、去查站长工具哪个更好?

    站长工具、爱站、去查站长工具哪个更好?很多人都会问这个问题,在百度上一搜此类相关的问题一大把的。我自己在怀化网络公司从事网络工作的这几年每天一直都是在接触站长工具,收集的站长工具平台也比较多,个人感觉
    网站优化策略:先增加关键词库,OR 先提升排名?

    网站优化策略:先增加关键词库,OR 先提升排名?

    导读:我想每一个SEO从业人员是不是都曾经有过这样一个疑惑,接手站点之后,发现他们本身已经有一定的关键词库,但排名都不是特别好,换句话说就是排在首页的关键词并不多,遇到这样的情况,你该怎么办呢?  虽
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面