php中curl采集不了网站,php用curl抓取网页问题

封装了一个curl抓取网页的函数,在本地测没问题;放到测试服务器上后,如果通过浏览器访问

执行,大部分时候函数返回的HTTP状态码返回0,错误信息`Error:name lookup timed

out`,极其偶像的情况下返回200成功;但如果直接在测试服务器上直接用命令行执行,100%成功。

代码如下:

static public function curlGet($url, $data = array(), $header = array(), $timeout = 3, $port = 80)

{

$is_ssl = substr($url, 0, 5) == 'https' ? 1 : 0;

$ch = curl_init();

if (!empty($data)) {

$data = is_array($data)?http_build_query($data): $data;

$url .= (strpos($url,'?')? '&': "?") . $data;

}

curl_setopt($ch, CURLOPT_URL, $url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);

curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'GET');

curl_setopt($ch, CURLOPT_FOLLOWLOCATION,1); //是否抓取跳转后的页面

curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, 5);

curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);

curl_setopt($ch, CURLOPT_POST, 0);

//curl_setopt($ch, CURLOPT_PORT, $port);

curl_setopt($ch, CURLOPT_HTTPHEADER, $header);

curl_setopt($ch, CURLOPT_REFERER, $url);

// curl_setopt($ch, CURLOPT_USERAGENT, self::url2useragent($url));

if($is_ssl){

curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, false); // 跳过证书检查

curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, true); // 从证书中检查SSL加密算法是否存在

}

$result = array();

$result['result'] = curl_exec($ch);

$result['http_code'] = curl_getinfo($ch,CURLINFO_HTTP_CODE);

if (0 != curl_errno($ch)) {

$result['error'] = "Error:\n" . curl_error($ch);

}

curl_close($ch);

return $result;

}

我个人感觉和代码应该关系不大,不知是哪的问题。望各路大神不吝赐教,指点迷津,不胜

感激。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值