用python爬网站评论_python爬取携程景点评论信息

今天要分析的网站是携程网，获取景点的用户评论，评论信息通过json返回API，页面是这个样子的

按下F12之后，F5刷新一下

具体需要URL

Request的方式为POST，还需要你提取的哪一页，下面图片显示了页面id，景点id(viewid),pagenum页面数，pagesize页面的项数等等。

最基本的GET请求可以直接用post方法

response = requests.post("http://www.baidu.com/", data = data)

对于 POST 请求来说，我们一般需要为它增加一些参数。那么最基本的传参方法可以利用 data 这个参数。

data={

"pageid": "10650000804",

"viewid": 107540,

"tagid": "0",

"pagenum": "1",

"pagesize": "50",

"contentType": "json",

"SortType":"1",

"head": {

"appid": "100013776",

"cid": "09031037211035410190",

"ctok": "",

"cver": "1.0",

"lang": "01",

"sid": "8888",

"syscode": "09",

"auth": "",

"extension": [

{

"name": "protocal",

"value": "https"

}

]

},

"ver": "7.10.3.0319180000"

}

因此

html=requests.post(URL,data=json.dumps(data)).text

html=json.loads(html)

部分结果如下

处理json文件后可以得到如下结果