Python beautifulsoup+requets爬虫示例

本文提供了一个使用Python的requests和beautifulsoup库进行网页爬虫的实例,展示了如何爬取中华英才网的大数据工程师职位信息,并将数据存入数据库。后续会涉及Selenium、pyquery、Scrapy、Ajax、动态代理和分布式Scrapy等更复杂的爬虫技术。
摘要由CSDN通过智能技术生成

一个简单的小python爬虫,因为时间原因,没有做翻页,谅解。

写的不好,希望大家互相进步,一起成长

后续将会更新Selenium,pyquery,scrapy,Ajax,动态代理,分布式scrapy等一些相关爬虫博客,请多关注

爬取中华英才网特定地区的大数据工程师招聘信息并插入到数据库

from bs4 import BeautifulSoup

import requests
import pymysql

page = 'http://www.chinahr.com/sou/?city=34%2C398%3B36%2C400%3B37%2C401%3B25%2C292%3B25%2C291&keyword=%E5%A4%A7%E6%95%B0%E6%8D%AE'
respone = requests.get(page)
respone.encoding = 'utf-8'

soup = BeautifulSoup(respone.text, 'lxml')
urlResult = soup.select('.jobList .l1 .e1 a')
dateResult = soup.select('.jobList .l1 .e2')
company = soup.select('.jobList .l1 span a')
addrAndNeeds = soup.select('.jobList .l2 .e1')
wagesResult = soup.select('.jobList .l2 .e2')
for i in company:
    if i.string == None:
        company.remove(i)
db = pymysql.c
  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值