python爬虫(牛客网的实习信息爬取)

本文介绍了如何使用Python进行网页爬虫,抓取牛客网上的北京地区后台岗位实习信息,并将数据存储到MySQL数据库中。首先讲述了数据库的配置和基本操作,然后讲解了Python的pymsql库如何连接和操作数据库,最后展示了爬取数据并插入数据库的完整流程。
摘要由CSDN通过智能技术生成

数据库

关于数据库的下载和安装配置,网上有很多教程。我用的是win10系统,如果有一样的,建议在win10系统安装好mysql后配置一样环境变量。(关于如何配置可以去搜教程)。 这样就可以打开命令行直接输入 “mysql -u root -p” 访问。
下面列出几个命令,详细的mysql命令可去查资料。

  1. show databases; # 查看数据库
  2. use database_name; # 选择数据库
  3. desc table_name; # 查看表格的结构
  4. select * from table_name #查看表格数据
  5. select * from table_name limit 9 # 查看表格数据并限制数量

所谓关系型数据库,数据库的各个表格之间其实是可以建立某种关系。

python操作数据库

不管是python还是java都提供了库帮助你建立python或者是java代码到mysql代码的这样一个连接。
这些网上都有很多的教程。Java中一般使用JDBC包。
python中我这次用的是pymsql。

python爬虫并保存到数据库

爬取牛客网实习信息

本次我想以爬取牛客网实习信息中在北京的后台岗位。代码如下:

import time
import requests
from bs4 import BeautifulSoup

url_lianjia = 'https://www.nowcoder.com/job/center?city={}&page={}'
heade
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值