当前位置:首页SEOer不得不知的蜘蛛陷阱 举报文章

SEOer不得不知的蜘蛛陷阱

作者:admin    来源:用户投稿    时间:2015.6.10   

  说到蜘蛛陷阱,可能很多SEO新手都没有听过,什么是蜘蛛?蜘蛛陷阱是阻止蜘蛛爬行网站的障碍物或者说是干扰物,很多蜘蛛陷阱是人为的,也有很多是不小心造成的,既然是蜘蛛陷阱那就是对于蜘蛛的陷阱,对用户是没有影响的,所以可能网页界面看起来非常正常,但里面就有可能存在蜘蛛陷阱。如果消除这些蜘蛛陷阱,可以使蜘蛛更好的在网站内部爬行抓取,现在就来看一下一些SEOer不得不知的蜘蛛陷阱!

  

  1. Flash动画

  有的朋友会问,为什么Flash是蜘蛛陷阱的一种,其实这个问题很简单,就是因为蜘蛛识别不了Flash,很多网站喜欢在首页做一个Flash动画然后再跳向HTML页面,用户可以访问网站看完片头后被转向得真正的HTML网页。但搜索引擎蜘蛛呢?蜘蛛是不能通过这个Flash跟踪到HTML版本页面的。这就是一个陷阱,阻挡了蜘蛛继续抓取网站。如果Flash效果是必需的,木木seo建议在首页Flash文件之外加上一个通往HTML版本的链接,这样蜘蛛可以跟踪这个链接抓取后面得HTML页面。

  2. JS链接

  javascript可以创造出很多吸引人得视觉效果,有些网站喜欢使用javascript脚本生成导航系统。这也是比较严重得蜘蛛陷阱之一。蜘蛛对于js也是识别不了的,对于js特效可以加入网站,也可以将不需要被抓取的链接放入js,但是需要进行爬行抓取的链接一定不能放入JS,这会造成蜘蛛不能继续爬行,同时js也不要太多,可以专门建一个js文件。

  3. 动态URL

  我们说现在蜘蛛是可以抓取部分URL链接的,但是动态URL是数据库直接生成的,有的带了问号、等号等多个参数。这类网址不仅不利于搜索引擎蜘蛛爬行,而且还可能造成蜘蛛的死循环,这是一个致命的蜘蛛陷阱。所以大多数情况都是建议大家网址静态化。

  4. Session ID

  有些网站为了跟踪用户访问使用Session ID,每个用户访问网站时都会生成独特唯一得Session ID,也即ID。这个ID都是加在URL中,搜索引擎蜘蛛的每一次访问也会被当成一个新得用户在URL中会加上一个不同的ID,这样蜘蛛每次来访问时所得到的同一个页面会是一个不一样的URL。结果就很明显,这样一来会产生复制内容页面,造成了高度重复的内容页。

  5. Frame框架

  框架结构对蜘蛛来说和Flash、js一样都是一道墙,框架结构也会阻碍搜索引擎蜘蛛的爬行和抓取,让蜘蛛掉进陷阱。

  6. 要求登录

  这个是很常见的,有些网站内容放在需要用户登录之后才能看到得到,设置有的整个网站只能登陆进入后才能看,这对于用户当然没什么,而对于蜘蛛就造成陷阱,为什么?因为蜘蛛不能填写用户名、密码、也不会注册,自然而然,蜘蛛不能进来抓取你的内容,所以除非是VIP内容或者是不需要蜘蛛抓取的内容,其它的应该对蜘蛛公开,这样才能抓取。

  7. 强制使用Cookies

  有些网站为了实现某种功能、如记住用户登录信息、跟踪用户访问路径等、强制用户使用Cookies、用户浏览器如果没有启用Cookies、页面显示不正常。搜索引擎蜘蛛就相当于一个禁用Cookies得浏览器、强制使用Cookies只能造成搜索引擎蜘蛛无法正常访问

  8.各种跳转

  目前比较建议的网站跳转就是301、302重定向,而其它跳转,蜘蛛是非常的敏感。因为黑帽最喜欢用跳转这种手段了,黑了别人的网站,然后在别人的网站上挂上一个指向自己网站的跳转。像js跳转、代码跳转等都不建议大家随便用,特别是如果在做404页面一定要用代码跳转,那建议时间在5秒以上。

  9.网站链接结构

  对于蜘蛛而言,我们主要说的就是网站的链接结构,其实网站的链接结构就等于一个房子,链接就是门,而蜘蛛就是我们邀请而来的朋友,网站链接结构槽糕混乱就相当于朋友来到你家后根本就分不清楚东南西北,找不到入口出口。连对应的链接都找不到,蜘蛛怎么进行抓爬?所以链接结构还是需要呈扁平树状结构。

  知道了这些可能的蜘蛛陷阱,大家以后就要注意别给蜘蛛搭陷阱了,那么现在赶紧去你的网站经常一下吧,看是否还有这些蜘蛛陷阱。欢迎关注新浪微博:木木seo博客

  作者:木木seo http://blog.sina.com.cn/s/blog_c206a2c30101g7wx.html

好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:不得  不得不  不知  蜘蛛  陷阱  
  • 相关搜索
图片推荐
    百度算法在变,找到不变才是关键

    百度算法在变,找到不变才是关键

    互联网每天新出现网站中,有很多都是针对搜索引擎的作弊网站。网站越多。互联网网页垃圾也就变得更多,优质内容变少,搜索引擎结果页也难免会出现很多垃圾页面。对百度而言,给用户展现更好的网站,让原创内容、提供
    警惕蓝天算法,企业站也要避免被误伤

    警惕蓝天算法,企业站也要避免被误伤

    前几天,百度推出了蓝天算法,旨在打击新闻源售卖软文、目录行为,触发蓝天算法问题站点将被清理出新闻源,同时降低其在百度搜索系统中的评价,可以看出如果触发蓝天算法的站点不仅仅是惩罚该目录或者该二级站点,重
    在线教育成创业热点 亏损却成行业常态

    在线教育成创业热点 亏损却成行业常态

    现如今,横扫金融、餐饮、购物、医疗、旅游等传统行业的互联网,又将战火蔓延至传统教育领域。中国在线教育的市场规模正以每年30%以上的速度增长,BAT和创业公司都在这儿扎堆拼杀,谁都不想错过这个新的财富风
    一亩田创始人:要让农民在田里也能用手机上网

    一亩田创始人:要让农民在田里也能用手机上网

    [摘要]一亩田创始人兼CEO邓锦宏1985年出生,大学毕业后,两次创业失败,两度进入百度,最后创建了一亩田。  一亩田创始人兼CEO邓锦宏  2013年年底,我发现一个很让我兴奋的数据:每天访问一亩田
    2015年,多少人会走上创业这条不归路?

    2015年,多少人会走上创业这条不归路?

    移动互联网的兴起迎来了创业的高潮,尤其是智能设备和移动软件应用领域,2014年是狂欢的一年,2015年延续这股热潮是必然的。创业是一条不归路,允许暂时的失败,但忌讳临阵退缩半途而废。移动互联网环境更风
    众筹平台盘点:当创业遇上互联网金融

    众筹平台盘点:当创业遇上互联网金融

    文/李玮  或许很多人都曾有过这样的幻想:如果全国13亿人都给自己捐出1分钱,那么就可以很容易地成为千万富翁,实现以往遥不可及的梦想。与此同时,每人捐出1分钱也不会对捐款人造成任何压力。  或许,这就
    移动电商新解读:将使传统企业上演绝地反击的四大现状

    移动电商新解读:将使传统企业上演绝地反击的四大现状

    在未来的移动互联网时代,尤其是垂直电商行业,互联网公司要败给传统企业。在这里所说的传统行业,并不是概念上的一直封闭的纯传统企业,而是从传统行业起家,在移动互联网大时代,怀着谦虚的心态学习互联网思维,从
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面