学校官网没有导师检索功能怎么办？Python + BeautifulSoup 爬取导师信息自制检索工具

1 背景

考研分数下来后，感觉成绩不错的就要开始联系目标院校的导师了。选择导师要按照自己感兴趣的研究生方向进行选择，如果能按关键字检索导师信息就会方便许多。我报考的是北京交通大学计算机学院，但官网中一栏 导师风采 并没有检索功能，只能按照拼音顺序查找老师。这一页一页点进去看导师的信息效率实在是太低，筛选过程很不方便。所以想着干脆直接用爬虫把导师信息入库，这样就能自己实现检索功能了，想怎么查就怎么查。

下面记录一下我用 Python + BeautifulSoup 爬取导师信息的过程。因为我平时不是做 Python 的，所以也是现学现卖，写的不完善的地方还请指教。

2 网站分析

2.1 导师详情页分析

通过观察每个导师的详情页可以发现，导师的介绍页格式是统一的。每个导师的页面都有红框中的类别。这样，对爬虫工作就轻松多了，因为越简单的网站越容易爬取。

2.2 导师目录页

导师目录页以分页形式展示，分页标识是用 url 中 page 参数区分。这种情况也是比较好处理的，直接在代码中 i++ 循环即可。

2.3 思路

根据分析，可以得出:

1. 先遍历目录页
2. 解析每个目录页，找到每个老师的编号拼出每个导师详情页的地址
3. 根据每个导师详情页地址，获取导师的详细信息并解析入库

3 代码编写

3.1 Python 版本

3.7

3.2 第三方库导入

该爬虫需要引入三个库：requests、BeautifulSoup、MySQLdb
requests：一个 Http 库
BeautifulSoup：用于解析网页数据
MySQLdb：用于与 mysql 连接

如果没有安装这三个库需要先安装。

pip3 install requests
pip3 install beautifulsoup4
pip3 install mysqlclient

3.3 遍历目录页找到每个导师的网址

通过查看目录页的源码，发现每个导师的详情页都对应一个编号。这个编号在一个 <div class="teacher_incard"> 标签下的 <a> 标签里。所以通过解析出 <a> 标签里的 href 的值，前面再拼上网站域名，就可以得到导师详情也的地址了。

具体有关 BeautifulSoup 的用法可以参考 beautifulsoup菜鸟教程。

具体代码：

def main():
    # 存放每个导师详情页地址
    professorList = []
    # 遍历 7 页导师目录页
    for i in range(1, 8):
        url = 'http://faculty.bjtu.edu.cn/cs/sdxx.html?page=' + str(i)
        print("正在爬取第 '%s' 页导师：" % (i))
        print(url + '\n')
        # 获取网页内容
        html = getHTMLText(url