这是一个最简单的、没有任何针对反爬措施的爬虫。走错门的施主可以绕道了~~~
一、问题
受疫情影响,所有学校课程采用网课教学,各种课程群应运而生。想一次性找到所有课程群二维码,以供查询,怎么办呢?
二、原理
1、探明网页图片链接格式
打开学校指定的查询课程二维码的网站,找到图片对应的http请求返回的图片链接,发现所有图片的链接都是http://xxx.cn/os/pic/+课程号-课序号+.jpg
的格式。因此,只要将对应的课程号-课序号与之进行拼接即可完成爬取。
2、使用requests包爬取相关网页图片
requests包最简单的爬虫:
import requests
r = requests.get(url)
之后进一步完成存储工作即可。
三、解决
#从csv读取所有课程号-课序号,并拼接成网页链接
import pandas as pd
csv_data = pd