当前位置:首页php爬虫:百级别知乎用户数据爬取与分析 举报文章

php爬虫:百级别知乎用户数据爬取与分析

作者:admin    来源:用户投稿    时间:2015.10.3   

  代码托管地址:https://github.com/hhqcontinue/zhihuSpider

  文/Hector

  这次抓取了110的用户数据,数据分析结果如下:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  开发前的准备

  安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

  安装PHP5.6或以上版本;

  安装curl、pcntl扩展。

  使用PHP的curl扩展抓取页面数据

  PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

  本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次curl请求的时候带上cookie信息。在获取cookie信息方面,我是用了自己的cookie,在页面中可以看到自己的cookie信息:

  

PHP爬虫 数据抓取 数据分析 爬虫抓取数据

  一个个地复制,以"__utma=?;__utmb=?;"这样的形式组成一个cookie字符串。接下来就可以使用该cookie字符串来发送请求。

  初始的示例:

    $url = 'http://www.zhihu.com/people/mora-hu/about'; 
    //此处mora-hu代表用户ID    $ch = curl_init($url); 
    //初始化会话    curl_setopt($ch, CURLOPT_HEADER, 0);    
    curl_setopt($ch, CURLOPT_COOKIE, $this->config_arr['user_cookie']);  
    //设置请求COOKIE    curl_setopt($ch, CURLOPT_USERAGENT, $_SERVER['HTTP_USER_AGENT']);    
    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); 
     //将curl_exec()获取的信息以文件流的形式返回,而不是直接出。    curl_setopt($ch, CURLOPT_FOLLOWLOCATION, 1);     
     $result = curl_exec($ch);    
    return $result;  //抓取的结果
好文打赏,给Ta鼓励
扫一扫用手机阅读本文
Tags:百万  级别  用户  用户数  户数  数据  分析  
  • 相关搜索
图片推荐
    江水平的故事:我是如何通过互联网做装修生意的

    江水平的故事:我是如何通过互联网做装修生意的

    导读:我9年前做装修开始就直接使用互联网接业务,到现在一直靠网络接单,生意可以说风生水起,去年我的营业额在千万级别。这就是江水平的故事,那么他是如何一步步做起来的?请看本文。  和江水平是在微信上认识
    网站优化需要的是日积月累的经验

    网站优化需要的是日积月累的经验

    网站优化并不是单纯的利用设计软件就可以做到,想要做到真正优质的网站优化,是需要多方面功能的结合。因此,网站优化并不是想象的那么简单。笔者在网站优化方面,有非常丰富的经验,也正是因为这些日积月累的经验,
    小米的大号生意:10W红米求粉

    小米的大号生意:10W红米求粉

    文/刀马旦  小米公司放出来的10万台红米手机,90秒钟就被一抢而光。这是一个从一开始就被猜中了结尾的故事,小米公司应该很清楚,10万台799元的四核智能手机放在哪里都是几分钟卖光的事情,90秒或者1
    一线投资人告诉你 TMT创业者必须知道这五个问题!

    一线投资人告诉你 TMT创业者必须知道这五个问题!

    摘要:创业者们将满腔热情都投入自己的事业中,但只有热情而缺乏思路,注定会让梦想之田变为伤心地。想知道投资经理希望创业者思考哪些问题吗?    创业者们将满腔热情都投入自己的事业中,但只有热情而缺乏思路
    博洋软件分享:微博营销如何能做好?

    博洋软件分享:微博营销如何能做好?

    微博就好比一个化妆舞会,舞会里面有很多的人,有彼此认识的不认识的,有的在自言自语,有互相交流的,另外还有围观的。就是这些形形色色的人组成了一个大家庭微博。企业如果要开展微博营销必须先确定一个方向,以后
    转载内容对SEO优化是利是弊?看完就懂

    转载内容对SEO优化是利是弊?看完就懂

    转载内容一直成为SEO热门的讨论话题,有一部分人说千万不要转载内容,多做原创,但看到人家排在前面的天天转载文章依然没事;也有一部分人说转载高质量的内容省时省力,但却不知道如何去寻找高质量内容;也有一部
    后OTA时代 短租市场如何把握旅游红利

    后OTA时代 短租市场如何把握旅游红利

    2015年携程对艺龙和去哪儿网等竞争对手的收割,中国在线旅游市场的格局进入前所未有的一统天下的和平时代;2016年途家并购携程、去哪儿的民宿业务,这一轮的博弈,短租平台占据上风。有人说,后OTA时代已
你是怎么知道非凡网赚网的?
  •   
  • 联系QQ 邮箱:976382653@qq.com 微信:976382653
    在线留言
    发布软文
    广告自助购
    文章调用
    常见问题
    保存到桌面