php ajax异步加载_PHP curl 抓取AJAX异步内容示例

最新推荐文章于 2023-05-31 08:00:00 发布

魔法小药丸

最新推荐文章于 2023-05-31 08:00:00 发布

阅读量165

点赞数

文章标签： php ajax异步加载

本文链接：https://blog.csdn.net/weixin_42527665/article/details/115090635

版权

本文介绍了如何抓取使用AJAX加载的网页内容。通过使用Firebug等开发者工具，可以找到异步请求的URL和参数。示例中展示了如何使用PHP的curl库来模拟请求，抓取特定页面的新闻XML数据。关键在于理解HTTP请求过程和正确构造请求参数。

摘要由CSDN通过智能技术生成

抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求，下面的示例，大家可以参考下

其实抓ajax异步内容的页面和抓普通的页面区别不大。ajax只不过是做了一次异步的http请求，只要使用firebug类似的工具，找到请求的后端服务url和传值的参数，然后对该url传递参数进行抓取即可。

利用Firebug的网络工具

如果抓去的是页面，则内容中没有显示的数据，是一堆JS代码。

Code

$cookie_file=tempnam('./temp','cookie');

$ch = curl_init();

$url1 = "http://www.cdut.edu.cn/default.html";

curl_setopt($ch,CURLOPT_URL,$url1);

curl_setopt($ch,CURLOPT_HTTP_VERSION,CURL_HTTP_VERSION_1_1);

curl_setopt($ch,CURLOPT_HEADER,0);

curl_setopt($ch,CURLOPT_RETURNTRANSFER,1);

curl_setopt($ch,CURLOPT_FOLLOWLOCATION,1);

curl_setopt($ch, CURLOPT_ENCODING ,'gzip'); //加入gzip解析

//设置连接结束后保存cookie信息的文件

curl_setopt($ch,CURLOPT_COOKIEJAR,$cookie_file);

$content=curl_exec($ch);

curl_close($ch);

$ch3 = curl_init();

$url3 = "http://www.cdut.edu.cn/xww/dwr/call/plaincall/portalAjax.getNewsXml.dwr";

$curlPost = "callCount=1&page=/xww/type/1000020118.html&httpSessionId=12A9B726E6A2D4D3B09DE7952B2F282C&scriptSessionId=295315B4B4141B09DA888D3A3ADB8FAA658&c0-scriptName=portalAjax&c0-methodName=getNewsXml&c0-id=0&c0-param0=string:10000201&c0-param1=string:1000020118&c0-param2=string:news_&c0-param3=number:5969&c0-param4=number:1&c0-param5=null:null&c0-param6=null:null&batchId=0";

curl_setopt($ch3,CURLOPT_URL,$url3);

curl_setopt($ch3,CURLOPT_POST,1);

curl_setopt($ch3,CURLOPT_POSTFIELDS,$curlPost);

//设置连接结束后保存cookie信息的文件

curl_setopt($ch3,CURLOPT_COOKIEFILE,$cookie_file);

$content1=curl_exec($ch3);

curl_close($ch3);