前言
本文的文字及图片来源于网络,仅供学习、交流使用,不具有任何商业用途,如有问题请及时联系我们以作处理。
selenium
Selenium 是一个 Web 的自动化测试工具,最初是为网站自动化测试而开发的,就像玩游戏用的按键精灵,可以按指定的命令自动操作。
Selenium 测试工具直接操控浏览器中,就像真正的用户在操作一样。Selenium 可以根据的指令,让浏览器自动加载页面,获取需要的数据,甚至页面截屏,或者判断网站上某些动作是否发生等。
模块安装
谷歌驱动下载地址:
配置浏览器驱动:
将下载好的浏览器驱动解压,将解压出的 exe 文件放到Python的安装目录下,也就是和python.exe同目录即可。
或者
把驱动和代码放在同一个路径里面~
确定目标网页
Selenium 就是模拟人的行为去操作~ 按照流程~
爬取内容:商品价格
商品名字
销量
店铺名字
发货地
1、获取搜索框元素,输入想要搜索的内容 这里咱们呢搜索女士包包的关键词
2、获取搜索按钮元素,点击搜索
3、会弹出登陆页面方案一:
- 获取账号和密码元素,用代码输入~ 合理设置好延时,并不会出现验证码~
方案二:
- 获取支付宝登陆元素,点击手动扫码登陆
这边选择方案二,方案一是可行的,但是会账号密码,所以这个你们可以自己去尝试
4、获取商品列表页数据
和普通爬虫解析网站数据一样的~获取列表页标签,然后再二次提取。
这里创建一个字典,接收数据,方便等会保存到csv文件。
5、保存数据
最后一步就是保存数据了,基本操作了
6、翻页点击下一页
7、运行效果图