PHP采集无法获取数据,为什么用curl或file_get_content抓取不到数据。解决方案

为什么用curl或file_get_content抓取不到数据。

本帖最后由 xroha 于 2014-12-15 09:49:56 编辑

为什么用curl或file_get_content抓取不到数据。

百度经验里，比如http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html，

直接看页面源代码，是有文章数据。

但是用curl ，file_get_content.都无法正常获取文章内容。

这是为什么？已经伪造了IP，来路等，但还是抓取不到。百度是通过什么防止抓取数据的？

以下是代码：

function fcontents( $url, $timeout = 5, $referer = "" ){

$ch = curl_init();

$header = array (

'User-Agent: Mozilla/5.0 (Windows NT 5.2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36','X-FORWARDED-FOR:154.125.25.15', 'CLIENT-IP:154.125.25.15'

);

curl_setopt($ch, CURLOPT_URL, $url);

curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($ch, CURLOPT_HTTPHEADER, $header); //构造用户IP

curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com/");//构造来路

$result = curl_exec($ch);

curl_close($ch);

return $result;

}

$html = fcontents('http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html');

echo $html;

------解决思路----------------------

curl 只是抓取这个页面内容，但这个页面有其它许多的动态内容是不能通过抓取去填充的

------解决思路----------------------

没有cookie的原因吧。先把cookie加上。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";

$cookie_jar = dirname(__FILE__)."/jy.cookie";

/* 获取cookie */

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, $url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);

curl_exec($ch);

curl_close($ch);

然后请求的时候带上cookie:

$ch = curl_init();

curl_setopt($ch, CURLOPT_URL, $url);

curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);

curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);

curl_setopt($ch, CURLOPT_HEADER, 0);

$res = curl_exec($ch);

curl_close($ch);

echo $res;