python爬取js_python如何爬取js生成的数据？

回答中有童鞋说到了分析接口，直接爬接口，这是可行的，并且直接爬接口还不需要自己解析HTML了，因为大部分接口返回的都是json，想想都觉得开心呀~

不过还是有别的方法，例如使用Phantomjs，简单易用，Python并非全能，搭配其他工具会发挥更大的价值，我自己也有一些小项目是这样的组合。

这是官方的一个实例代码，稍加改造就可以达成目的了。

console.log('Loading a web page');

var page = require('webpage').create();

var url = 'http://phantomjs.org/';

page.open(url, function (status) {

//Page is loaded!

phantom.exit();

});

改造下

var page = require('webpage').create();

var url = 'http://phantomjs.org/';

page.open(url, function (status) {

page.evaluate(function() {

// 页面被执行完之后，一般js生成的内容也可以获得了，但是Ajax生成的内容则不一定

document.getElementById('xxx'); // 可以操作DOM，这里你就可以尝试获取你想要的内容了

// ...

})

phantom.exit();

});

但其实很多情况下，都是需要等待Ajax执行完毕后才开始解析页面的内容，这时候可以使用官方提供的一个示例代码，利用这个函数，可以等待这个页面所有的请求都加载完毕之后再接着处理，那么你就可以获得完整加载的页面了，之后该干嘛干嘛了。