爬取京东商品信息

爬取京东商品信息

爬虫库:selenium、pyquery
数据库:MongoDB
代码如下:

1.spider.py

import time

from selenium import webdriver
from selenium.common.exceptions import TimeoutException
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait
from selenium.webdriver.support import expected_conditions as EC
from pyquery import PyQuery as pq
from config import *
import pymongo
from selenium.webdriver.chrome.options import Options


client=pymongo.MongoClient(MONGO_URL)
db=client[MONGO_DB]


#browser=webdriver.Chrome()
chrome_options = Options()
chrome_options.add_argument('--headless')
browser= webdriver.Chrome(chrome_options = chrome_options)
wait=WebDriverWait(browser, 10)

def search(KeyWord):
 try:
        browser.get('https://www.jd.com')
        input = wait.until(
            EC</
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值