PHP采集程序(爬虫)

前言

我们在写一个Web程序的时候，总会想着把自己的网站更美观一些，功能能更多一些，有时候写一些小的工具或者加上小的插件会让我们的站点更加完善。比如万年历功能，比如我们现在要讲的天气预报功能。

当然我们没法利用专业的卫星接受数据，所以我们的天气数据来自现有的天气预报网站。利用天气预报网站提供的数据服务，我们可以写一个PHP爬虫，然后动态采集我们所需要的数据，并且在目标站点更新数据的时候，我们的程序也能做到同步更新，自动地获取数据。

下面就介绍一下如何编写一个简单的PHP数据采集程序(PHP爬虫)。

原理

给定一个网页的URL，使用PHP下载该网页并得到网页内容，然后通过正则表达式将其中我们感兴趣的数据提取出来，然后输出。

具体在这个例子中，我们要抓取的网页是http://www.weather.com.cn/weather/101050101.shtml，我们感兴趣的是页面中的未来7天天气情况。

实现

0.获取天气预报网页的URL：

$url = "http://www.weather.com.cn/weather/101050101.shtml";

$page_content = file_get_contents($url);

在这里，file_get_contents() 函数会将 $url 指向的网页下载下来，并把网页内容作为一个字符串返回。于是，$page_content 变量中就是我们要抓取的网页的全部HTML代码了。接下来，我们要从其中抽取我们需要的数据。

1.使用正则表达式匹配符合条件的字符串

先输出 $page_content 的值，然后查看网页源代码，观察可知我们需要的字符串可以在

<!--day 1 -->

......

<!--day 7 -->

这两行的注释里找到。

使用正则表达式来取得 <!--day 1--> 和 <!--day 7--> 之间的所有内容：

eregi("<!--day 1-->(.*)<!--day 7-->",$page_content,$res);

2.补全页面中图片的路径

由于远程网页中的图片路径都是像 /m2/i/icon_weather/29x20/d01.gif 这样的相对路径，我们需要把这些路径补全，在它们前面加上 http://www.weather.com.cn。

$forecast = str_replace("<img src="","<img src="http://www.weather.com.cn",$res[0]);

至此，$forecast 中就是我们需要的天气预报信息了。这个简单的PHP爬虫也就写好了。

源代码

以下是这个抓取天气预报小程序的完整源代码，其中添加了一些测量各部分程序运行时间的代码，并可以通过设置 $start 和 $end 的值来控制抓取哪几天的信息。

 

$url = "http://www.weather.com.cn/weather/101050101.shtml";

$t1 = time();

    

$page_content = file_get_contents($url);

$t2 = time();

 

$start = 1;

$end = 3;

 

if ($end > 7){

    echo "超出预报能力范围，请重新设置！";

}else {

    echo "未来".($end-$start)."天哈尔滨的天气预报（"

              .date('Y-m-j')."发布）";

   

    preg_match("/<!--day $start-->(.*)<!--day $end-->/isU", $page_content, $res);

 

    $forecast = str_replace("<img src=\"",

        "<img src=\"http://www.weather.com.cn", $res[0]);

    $t3 = time();

 

    echo $forecast;

 

    echo 'First step costs '.($t2 - $t1).' ms.';

    echo 'Last step costs '.($t3 - $t2).' ms.';

}

 

Curl采集

function curl_get_contents($url) {

$ch = curl_init ();

curl_setopt ( $ch, CURLOPT_URL, $url ); // 设置访问的url地址

curl_setopt ( $ch, CURLOPT_HTTPHEADER, array (

"User-Agent: Mozilla/5.0 (Windows; U; Windows NT 6.1; en-US; rv:1.9.1.6) Gecko/20091201 Firefox/3.5.6 (.NET CLR 3.5.30729)",

"Accept-Language: en-us,en;q=0.5"

) );

                                     // curl_setopt($ch,CURLOPT_HEADER,1); //是否显示头部信息

curl_setopt ( $ch, CURLOPT_TIMEOUT, 5 ); // 设置超时

curl_setopt ( $ch, CURLOPT_USERAGENT, _USERAGENT_ ); // 用户访问代理 User-Agent

curl_setopt ( $ch, CURLOPT_REFERER, _REFERER_ ); // 设置 referer

curl_setopt ( $ch, CURLOPT_FOLLOWLOCATION, 1 ); // 跟踪301

curl_setopt ( $ch, CURLOPT_RETURNTRANSFER, 1 ); // 返回结果

$r = curl_exec ( $ch );

curl_close ( $ch );

return $r;

}