最近因为手里头需要不断查看某校的新闻发布,不想频繁的刷新网页,于是就有了下面的这个轻量级的爬虫出现了,闲言少叙,步入正题~
环境介绍:
python 2.7
BS4(这是一个强大的三方moudle,现在关于这个moudle的掌握还在学习中~)
待爬取的网页:
yjsc.shnu.eds(上海师范大学全日制研究生招生信息)
首先,分析下网页的源码,关于这一步,网上很多教程,有用软件的,有用浏览器自带的源码翻译功能的,我直接用python的urllib2进行操作,首先获取这个网页的源码,我的代码如下:
import urllib2
html_doc = urllib2.urlopen("http://yjsc.shnu.ed").read()
print html_doc
上述代码在执行后会在idle里显示一大段的字符串,这个就是网页的源码,保存idle中的内容到记事本(最好是那种可以对html文件高亮的记事本,我用的是sublime text3)中去即可查看网页源码,这里就不在贴出对应的网页源码了。
其次,在得到网页的源码之后分析我们要找的内容所在位置,这里就不科普html的文件格式了,不懂的同学可以自行百度google。通过查看源码,定位到我需要的资源(其中一个)位置在下图