php中curl_multi的应用同时请求多个url

最新推荐文章于 2023-09-18 16:00:54 发布

東子_dz

最新推荐文章于 2023-09-18 16:00:54 发布

阅读量1.8k

点赞数

文章标签： curl

这些函数时，目的显然应该是要同时请求多个url，而不是一个一个依次请求，否则不如自己循环去调curl_exec好了。

http://php.net/manual/en/function.curl-multi-exec.php

http://php.net/manual/zh/function.curl-multi-exec.php

=====================

这只返回错误关于整个多堆栈。有可能还有发生的问题对个别情况,即使这个函数返回CURLM_OK。

Note:

This only returns errors regarding the whole multi stack. There might still have occurred problems on individual transfers even when this function returns CURLM_OK.

==============================

[php]view plaincopy 
     
 curl_multi_select  
   
 (PHP 5)  
 curl_multi_select — 等待所有cURL批处理中的活动连接  
   
 说明 ¶  
   
 int curl_multi_select ( resource $mh [, float $timeout = 1.0 ] )  
 阻塞直到cURL批处理连接中有活动连接。  
   
 参数 ¶  
   
 mh  
 由 curl_multi_init() 返回的 cURL 多个句柄。  
   
 timeout  
 以秒为单位，等待响应的时间。  
   
 返回值 ¶  
   
 成功时返回描述符集合中描述符的数量。失败时，select失败时返回-1，否则返回超时(从底层的select系统调用).  
   
 参见 ¶  

--------------------------------------------------

while (($code = curl_multi_exec($queue, $active)) == CURLM_CALL_MULTI_PERFORM) ;

相当于

do{

($code = curl_multi_exec($queue, $active)) )

}while($code == CURLM_CALL_MULTI_PERFORM)

=================================================================================

相信许多人对PHP手册中语焉不详的curl_multi一族的函数头疼不已，它们文档少，给的例子更是简单的让你无从借鉴，我也曾经找了许多网页，都没见一个完整的应用例子。

curl_multi_add_handle
curl_multi_close
curl_multi_exec
curl_multi_getcontent
curl_multi_info_read
curl_multi_init
curl_multi_remove_handle
curl_multi_select
一般来说，想到要用这些函数时，目的显然应该是要同时请求多个url，而不是一个一个依次请求，否则不如自己循环去调curl_exec好了。

步骤总结如下：

第一步：调用curl_multi_init
第二步：循环调用curl_multi_add_handle
这一步需要注意的是，curl_multi_add_handle的第二个参数是由curl_init而来的子handle。
第三步：持续调用curl_multi_exec
第四步：根据需要循环调用curl_multi_getcontent获取结果
第五步：调用curl_multi_remove_handle，并为每个字handle调用curl_close
第六步：调用curl_multi_close

这里有一个网上找的简单例子，其作者称为dirty的例子，（稍后我会说明为何dirty）：

/*
Here's a quick and dirty example for curl-multi from PHP, tested on PHP 5.0.0RC1 CLI / FreeBSD 5.2.1
*/

$connomains = array (
" http://www.cnn.com/ " ,
" http://www.canada.com/ " ,
" http://www.yahoo.com/ "
);

$mh = curl_multi_init();

foreach ( $connomains as $i => $url ) {
      $conn [ $i ] = curl_init( $url );
      curl_setopt( $conn [ $i ] , CURLOPT_RETURNTRANSFER , 1 );
      curl_multi_add_handle ( $mh , $conn [ $i ]);
}

do { $n = curl_multi_exec( $mh , $active ); } while ( $active );

foreach ( $connomains as $i => $url ) {
       $res [ $i ] = curl_multi_getcontent( $conn [ $i ]);
      curl_close( $conn [ $i ]);
}

print_r ( $res );

整个使用过程差不多就是这样，但是，这个简单代码有个致命弱点，就是在do循环的那段，在整个url请求期间是个死循环，它会轻易导致CPU占用100%。

现在我们来改进它，这里要用到一个几乎没有任何文档的函数curl_multi_select了，虽然C的curl库对select有说明，但是，php里的接口和用法确与C中有不同。

把上面do的那段改成下面这样：

                 do {
                         $mrc = curl_multi_exec( $mh , $active );
                } while ( $mrc == CURLM_CALL_MULTI_PERFORM);
                 while ( $active and $mrc == CURLM_OK) {
                         if (curl_multi_select( $mh ) != - 1 ) {
                                 do {
                                         $mrc = curl_multi_exec( $mh , $active );
                                } while ( $mrc == CURLM_CALL_MULTI_PERFORM);
                        }
                }

因为$active要等全部url数据接受完毕才变成false，所以这里用到了curl_multi_exec的返回值判断是否还有数据，当有数据的时候就不停调用curl_multi_exec，暂时没有数据就进入select阶段，新数据一来就可以被唤醒继续执行。这里的好处就是CPU的无谓消耗没有了。

另外：还有一些细节的地方可能有时候要遇到：

控制每一个请求的超时时间，在curl_multi_add_handle之前通过curl_setopt去做：
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);

判断是否超时了或者其他错误，在curl_multi_getcontent之前用：curl_error($conn[$i]);