php获取网页内容方法总结

        用php抓取页面的内容在实际的开发当中是非常有用的，如作一个简单的内容采集器，提取网页中的部分内容等等
        抓取到的内容在通过正则表达式做一下过滤就得到了你想要的内容，至于如何用正则表达式过滤，在这里就不做介绍了，有兴趣的，以下就是几种常用的用php抓取网页中的内容的方法。

首先举个自己做过的例子：这个例子是调用大众点评的接口数据 返回的是XML的数据

[php] view plain copy print ?

1. $api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址  
2. $param = array(  
3.     'cityid'    =>'1',  
4.     //'shoptype'    =>'',   
5.     //'keyword'     =>'',   
6.     //'categoryID'  =>'',   
7.     //'regionid'    =>'',   
8.     'type'      =>'0',  
9.     //'range'       =>'',   
10.     //'order'       =>'',   
11.     //'lat'         =>'',   
12.     //'lng'         =>'',   
13.     //'distance'    =>'',   
14.     //'page'        =>'',   
15.       'maxrows'     =>'5',  
16.       'apikey'      =>'xxxxxxxxxxx',  
17. ); //这个就是该接口需要的三个参数。   
18. $query = http_build_query($param);//把参数生成格式  
19. $url=$api.$query;//合并成最后URL  
20.   
21. //$content=file_get_contents($url);  
22. $contents=file($url); //获得页面的源代码  
23. //print_r($contents);   
24. //echo "<hr/>";   
25. $content=$contents[0];  
26. $xml = simplexml_load_string($content);  
27. $lists=$xml ->Promos->Promo;  

$api = 'http://api.dianping.com/Promo.svc/search?'; //接口地址 $param = array( 'cityid' =>'1', //'shoptype' =>'', //'keyword' =>'', //'categoryID' =>'', //'regionid' =>'', 'type' =>'0', //'range' =>'', //'order' =>'', //'lat' =>'', //'lng' =>'', //'distance' =>'', //'page' =>'', 'maxrows' =>'5', 'apikey' =>'xxxxxxxxxxx', ); //这个就是该接口需要的三个参数。 $query = http_build_query($param);//把参数生成格式 $url=$api.$query;//合并成最后URL //$content=file_get_contents($url); $contents=file($url); //获得页面的源代码 //print_r($contents); //echo "<hr/>"; $content=$contents[0]; $xml = simplexml_load_string($content); $lists=$xml ->Promos->Promo;

这样获得内容！

下面是常用的获取页面的内容的方法 

1.file_get_contents
PHP代码 

[php] view plain copy print ?

1. <?php   
2. $url = "http://www.jb51.net";   
3. $contents = file_get_contents($url);   
4. //如果出现中文乱码使用下面代码    
5. //$getcontent = iconv("gb2312", "utf-8",$contents);   
6. echo $contents;   
7. ?>   

<?php $url = "http://www.jb51.net"; $contents = file_get_contents($url); //如果出现中文乱码使用下面代码 //$getcontent = iconv("gb2312", "utf-8",$contents); echo $contents; ?>

2.curl
PHP代码 

[php] view plain copy print ?

1. <?php   
2. $url = "http://www.jb51.net";   
3. $ch = curl_init();   
4. $timeout = 5;   
5. curl_setopt($ch, CURLOPT_URL, $url);   
6. curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);   
7. curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout);   
8. //在需要用户检测的网页里需要增加下面两行    
9. //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY);   
10. //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD);   
11. $contents = curl_exec($ch);   
12. curl_close($ch);   
13. echo $contents;   
14. ?>   

<?php $url = "http://www.jb51.net"; $ch = curl_init(); $timeout = 5; curl_setopt($ch, CURLOPT_URL, $url); curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); curl_setopt($ch, CURLOPT_CONNECTTIMEOUT, $timeout); //在需要用户检测的网页里需要增加下面两行 //curl_setopt($ch, CURLOPT_HTTPAUTH, CURLAUTH_ANY); //curl_setopt($ch, CURLOPT_USERPWD, US_NAME.":".US_PWD); $contents = curl_exec($ch); curl_close($ch); echo $contents; ?>

3.fopen->fread->fclose
PHP代码 

[php] view plain copy print ?

1. <?php   
2. $handle = fopen ("http://www.jb51.net", "rb");   
3. $contents = "";   
4. do {   
5. $data = fread($handle, 1024);   
6. if (strlen($data) == 0) {   
7. break;   
8. }   
9. $contents .= $data;   
10. } while(true);   
11. fclose ($handle);   
12. echo $contents;   
13. ?>   

<?php $handle = fopen ("http://www.jb51.net", "rb"); $contents = ""; do { $data = fread($handle, 1024); if (strlen($data) == 0) { break; } $contents .= $data; } while(true); fclose ($handle); echo $contents; ?>

 

注：
1.使用file_get_contents和fopen必须空间开启allow_url_fopen。方法：编辑php.ini，设置 allow_url_fopen = On，allow_url_fopen关闭时fopen和file_get_contents都不能打开远程文件。
2.使用curl必须空间开启curl。方法：windows下修改php.ini，将extension=php_curl.dll前面的分号去掉，而且需要拷贝ssleay32.dll和libeay32.dll到C:/WINDOWS/system32下；Linux下要安装curl扩展。

 

点击查看原文