python爬取js_利用python如何爬取js里面的内容

本篇文章给大家分享的内容是3利用python如何爬取js里面的内容 ，有着一定的参考价值，有需要的朋友可以参考一下

一、在编写爬虫软件获取所需内容时可能会碰到所需要的内容是由javascript添加上去的 在获取的时候为空 比如我们在获取新浪新闻的评论数时使用普通的方法就无法获取

普通获取代码示例：import requests

from bs4 import BeautifulSoup

res = requests.get('http://news.sina.com.cn/c/nd/2017-06-12/doc-ifyfzhac1650783.shtml')

res.encoding = 'utf-8'

soup = BeautifulSoup(res.text,'html.parser')

#取评论数

commentCount = soup.select_one('#commentCount1')

print(commentCount.text)

此时所获取的结果为空 这是由于内容是存储在js文件中

因此我们需要取寻找存储评论内容的js 经过查找我们发现其存储在改js里

将相应内容放入json数据查看器中我们发现评论总数和评论内容都在该js文件中一json格式存放