php CERL 多线程

curl一般用来抓取网页,第二种就是get或者post数据,第三种应用就是实现PHP的多线程任务。下面来实现多线程的:
01 <?php
02 /*
03 curl 多线程抓取
04 */
05
06 /**
07 * curl 多线程
08 *
09 * @param array $array 并行网址
10 * @param int $timeout 超时时间
11 * @return array
12 */
13 function Curl_http($array,$timeout){
14 $res = array();
15 $mh = curl_multi_init();//创建多个curl语柄
16 $startime = getmicrotime();
17 foreach($array as $k=>$url){
18 $conn[$k]=curl_init($url);
19
20 curl_setopt($conn[$k], CURLOPT_TIMEOUT, $timeout);//设置超时时间
21 curl_setopt($conn[$k], CURLOPT_USERAGENT, 'Mozilla/5.0 (compatible; MSIE 5.01; Windows NT 5.0)');
22 curl_setopt($conn[$k], CURLOPT_MAXREDIRS, 7);//HTTp定向级别
23 curl_setopt($conn[$k], CURLOPT_HEADER, 0);//这里不要header,加块效率
24 curl_setopt($conn[$k], CURLOPT_FOLLOWLOCATION, 1); // 302 redirect
25 curl_setopt($conn[$k],CURLOPT_RETURNTRANSFER,1);
26 curl_multi_add_handle ($mh,$conn[$k]);
27 }
28 //防止死循环耗死cpu 这段是根据网上的写法
29 do {
30 $mrc = curl_multi_exec($mh,$active);//当无数据,active=true
31 } while ($mrc == CURLM_CALL_MULTI_PERFORM);//当正在接受数据时
32 while ($active and $mrc == CURLM_OK) {//当无数据时或请求暂停时,active=true
33 if (curl_multi_select($mh) != -1) {
34 do {
35 $mrc = curl_multi_exec($mh, $active);
36 } while ($mrc == CURLM_CALL_MULTI_PERFORM);
37 }
38 }
39
40 foreach ($array as $k => $url) {
41 curl_error($conn[$k]);
42 $res[$k]=curl_multi_getcontent($conn[$k]);//获得返回信息
43 $header[$k]=curl_getinfo($conn[$k]);//返回头信息
44 curl_close($conn[$k]);//关闭语柄
45 curl_multi_remove_handle($mh , $conn[$k]); //释放资源
46 }
47
48 curl_multi_close($mh);
49 $endtime = getmicrotime();
50 $diff_time = $endtime - $startime;
51
52 return array('diff_time'=>$diff_time,
53 'return'=>$res,
54 'header'=>$header
55 );
56
57 }
58 //计算当前时间
59 function getmicrotime() {
60 list($usec, $sec) = explode(" ",microtime());
61 return ((float)$usec + (float)$sec);
62 }
63
64 //测试一下,curl 三个网址
65 $array = array(
66 "http://www.weibo.com/",
67 "http://www.renren.com/",
68 "http://www.qq.com/"
69 );
70
71 $data = Curl_http($array,'10');//调用
72 var_dump($data);//输出
73
74 ?>

因为$active要等全部url数据接受完毕才变成false,所以这里用到了curl_multi_exec的返回值判断是否还有数据,当有数据的时候就不停调用curl_multi_exec,暂时没有数据就进入select阶段,新数据一来就可以被唤醒继续执行。这里的好处就是CPU的无谓消耗没有了。

这个多线程的写法步骤:

1. 调用curl_multi_init
2. 循环调用curl_multi_add_handle,这一步需要注意的是,curl_multi_add_handle的第二个参数是由curl_init而来的子handle。
3. 持续调用curl_multi_exec
4. 根据需要循环调用curl_multi_getcontent获取结果
5. 调用curl_multi_remove_handle,并为每个字handle调用curl_close
6. 调用curl_multi_close
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值