前言
今天给大家介绍的是Python爬虫电影短评数据
开发工具
Python版本: 3.6
相关模块:
requests模块
parsel模块
time模块
环境搭建
安装Python并添加到环境变量,pip安装需要的相关模块即可。
文中完整代码及文件,评论留言获取
数据来源查询分析
浏览器中打开我们要爬取的页面
按F12进入开发者工具,查看我们想要的电影短评在哪里
这里我们需要页面数据就可以了
代码实现
headers = {
'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.102 Safari/537.36'