当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    你知道那些大型网站都是怎么优化的吗

    你知道那些大型网站都是怎么优化的吗

    北京SEO秀才今天跟大家探讨一下大型电子商务网站或者大型门户站等的优化技巧,大型网站与小企业站点和博客站点优化有很大的差异,大型网站通常要 涵盖大量的关键词,做SEO做网站优化必须对企业以及行业的各种
    唯品会正品神话终结:涉嫌售卖假冒奢侈品

    唯品会正品神话终结:涉嫌售卖假冒奢侈品

    腾讯科技 壹鸣调查组 11月25日报道  和周围的热闹相比,距离宝安机场仅有一站地铁的塘西第二工业区,平日显得异常安静。对繁华的深圳而言,此地再普通不过,各类代工厂和中小企业在这里汇集,技术工人和小贸
    百度外卖CEO巩振兵否认与美团合并 暗指美团造谣

    百度外卖CEO巩振兵否认与美团合并 暗指美团造谣

    网易科技讯9月30日消息,日前,有媒体爆料,百度糯米和百度外卖已打包出售给美团,交易已经接近尾声。对此传言,百度外卖CEO巩振兵今天发内部邮件进行否认,称这是友商(美团)不守底线的造谣行为。巩振兵称:
    秘密创始人林承仁:匿名的世界人人平等

    秘密创始人林承仁:匿名的世界人人平等

    林承仁在福建出生,很小的时候举家迁往香港。我不会英文,不会粤语,同学们都称呼我叫大陆仔。  从没有一款软件有如此大的反差:这是一款让很多人觉得有趣的应用,这是一款让不少人觉得无聊的应用;这是最受热捧的
    做运营你该知道的11个冷门效应

    做运营你该知道的11个冷门效应

    不废话,直接走起。就是这么简单粗暴!  1、口 红 效 应  低价产品偏爱趋势  20世纪30年代美国经济大萧条时期首次提出的口红效应经济理论。提出这一理论是因为,经济学家们发现,每当经济不景气,人们
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面