php用curl抓取网页问题
封装了一个curl抓取网页的函数,在本地测没问题;放到测试服务器上后,如果通过浏览器访问
执行,大部分时候函数返回的HTTP状态码返回0,错误信息`Error:name lookup timed
out`,极其偶像的情况下返回200成功;但如果直接在测试服务器上直接用命令行执行,100%成功。
代码如下:
static public function curlGet($url, $data = array(), $header = array(), $timeout = 3, $port = 80)
{
$is_ssl = substr($url, 0, 5) == 'https' ? 1 : 0;
$ch = curl_init();
if (!empty($data)) {
$data = is_array($data)?http_build_query($data): $data;
$url .= (strpos($url,'?')? '&': "?") . $data;
}
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, true);
curl_setopt($ch, CURLOPT_CUSTOMREQUEST, 'GET');
curl_setopt($ch, CURLOPT_FOLLOWLOCATION,1); //是否抓取跳转后的页面
curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, 5);
curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);
curl_setopt($ch, CURLOPT_POST, 0);
//curl_setopt($ch, CURLOPT_PORT, $port);
curl_setopt($ch, CURLOPT_HTTPHEADER, $header);
curl_setopt($ch, CURLOPT_REFERER, $url);
// curl_setopt($ch, CURLOPT_USERAGENT, self::url2useragent($url));
if($is_ssl){
curl_setopt($ch, CURLOPT_SSL_VERIFYPEER, false); // 跳过证书检查
curl_setopt($ch, CURLOPT_SSL_VERIFYHOST, true); // 从证书中检查SSL加密算法是否存在
}
$result = array();
$result['result'] = curl_exec($ch);
$result['http_code'] = curl_getinfo($ch,CURLINFO_HTTP_CODE);
if (0 != curl_errno($ch)) {
$result['error'] = "Error:\n" . curl_error($ch);
}
curl_close($ch);
return $result;
}
我个人感觉和代码应该关系不大,不知是哪的问题。望各路大神不吝赐教,指点迷津,不胜
感激。
相关阅读:
json返回数据中包括html标签直接显示标签的问题
angular http问题
swig模板引擎中使用正则表达式报错
touchstart touchend 导致倒计时变慢
c的描述符register导致矩阵乘法结果错误
iOS 怎么把button的边缘变成虚线
node中使用log4js问题
请问antd里如何设置Input焦点?
请问正则如何匹配多层成对的括号?
安卓实现类似QQ刚换聊天背景的功能
怎样判断是否包含一些非法字符
jquery ui自动完成
各位php程序员,安装拓展或者框架,你们用composer用的多吗?
有了解嵌入式服务器appweb esp文件的吗
jquery通过fnAddData插入的行如何获取
关于Python的服务器客户端交互问题
微信小程序socket问题
配置jdk环境变量时,cmd无法识别path中的用百分号%引用的变量?
请问谁用过 ZSSRichTextEditor编辑器
金融系统为什么只保留两位小数,如果产生多余两位小数位的金额怎么办?