让浏览器全自动下载你想要的数据,程序员才知道的小技巧,太实用

前言

现在电商平台有很多商品数据,采集到的数据对电商价格战很有优势

今天带大家采集京东这个电商平台的数据

环境介绍:

python教程 
pycharm
selenium
csv
time

首先配置好开发环境

先要找到你Google浏览器的版本

复制地址,随便在一个文件夹内粘贴打开

然后就可以看见你Google浏览器的版本

在百度上搜索浏览器驱动,第一个就是

找一个和你版本一样或者差不多的版本下载

现在可以敲代码了

安装selenium模块

pip install selenium

再导入模块,创建浏览器对象

# 浏览器功能
from selenium import webdriver   

driver = webdriver.Chrome()
driver.get('https://www.jd.com/')

运行代码,可以操控浏览器自动打开你输入的网址

既然能自动的打开网页,那干脆来个全自动的搜索商品好了

复制代码

def get_product(key):
    """商品搜索"""
    driver.find_element_by_css_selector('#key').send_keys(key)
    driver.find_element_by_css_selector('#search > div > div.form > button').click()

keyword = input('请输入商品搜索的关键字:')

复制代码

解析搜索商品的网页数据

复制代码

def parse_data():
    """页面的数据解析"""
    lis = driver.find_elements_by_css_selector('.gl-item')  # 所有li标签

    for li in lis:
        try:
            name = li.find_element_by_css_selector('div.p-name a em').text  # 商品的名字
            name = name.replace('京东超市', "").replace('"', '').replace('\n', '')
            price = li.find_element_by_css_selector('div.p-price strong i').text + '元'  # 商品的价格
            deal = li.find_element_by_css_selector('div.p-commit strong a').text  # 商品的评价数量
            title = li.find_element_by_css_selector('span.J_im_icon a').get_attribute('title')  # 商品的店铺名字
            print(name, price, deal, title, sep=' | ')

复制代码

最后一步,就是保存数据了

import csv # 数据保存模块, 内置

with open('京东数据.csv', mode='a', encoding='utf-8', newline='') as f:
    csv_write = csv.writer(f)
    csv_write.writerow([name, price, deal, title])

运行代码,效果如下图

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值