本鸽子精复习C++复习到一半又去学python爬虫了,MOOC嵩天老师的课程实例。
import requests
from bs4 import BeautifulSoup
import bs4
def getHTMLText(url):
try:
r=requests.get(url,timeout=30)#获取HTML网页
r.raise_for_status()#检测异常
r.encoding=r.apparent_encoding#指定编码方式
return r.text
except:
print ("get HTML error")#输出错误信息
return ""
def fillUnivList(ulist,html):
soup=BeautifulSoup(html,"html.parser")#解析得到的html文本
for tr in soup.find('tbody').children:#遍历标签树
if isinstance(tr,bs4.element.Tag):#排除掉不是标签的部分,比如换行符
tds=tr('td') #tds = tr.find_all('td')
ulist.append([tds[0].string,tds[1].string,tds[3].string])#将遍历到的td标签加入列表
def printUnivList(ulist,num):
tplt="{0:^10}\t{1:{3}^10}\t{2:^10}"#制定列表格式
print(tplt.format("排名","学校名称","分数",chr(12288)))
for i in range(num):
u=ulist[i]
print(tplt.format(u[0],u[1],u[2],chr(12288)))#输出列表
def main():
uinfo = []
url='http://www.zuihaodaxue.com/zuihaodaxuepaiming2019.html'
html=getHTMLText(url)
fillUnivList(uinfo,html)
printUnivList(uinfo,100)#输出100名
main()
函数解释:
append() :用于在列表末尾添加新的对象。
isinstance() :判断一个对象是否是一个已知的类型,类似 type()。
isinstance() 与 type() 区别:
type() 不会认为子类是一种父类类型,不考虑继承关系。
isinstance() 会认为子类是一种父类类型,考虑继承关系。