有python专业的世界大学_python爬取世界大学计算机排名

import requests

from bs4 import BeautifulSoup

import bs4

def getHTMLText(url):

r = requests.get(url)

r.raise_for_status()

r.encoding = r.apparent_encoding

return r.text

def fillUnivList(html, unlist):

soup = BeautifulSoup(html, 'html.parser')

for tr in soup.find('tbody').children:

if isinstance(tr, bs4.element.Tag):

tds = tr('td')

unlist.append([tds[0].string, tds[1].string, tds[3].string, tds[4].string])

def printUnivList(unlist, num):

list = "{:^10}\t{:^30}\t{:^10}"

print(list.format("排名", "学校", "总分"))

for i in range(num):

if i <= 49:

u = unlist[i]

print(list.format(u[0], u[1], u[2]))

else:

u = unlist[i]

print(list.format(u[0], u[1], 'None'))

def main():

unlist = []

num = 100

url = "http://www.zuihaodaxue.com/subject-ranking/computer-science-engineering.html"

html = getHTMLText(url)

fillUnivList(html, unlist)

printUnivList(unlist, num)

main()

刚开始总是出现如下错误：

print(list.format(u[0], u[1], u[2]))

TypeError: unsupported format string passed to NoneType.format

这是针对unlist.append([tds[0].string, tds[1].string, tds[3].string, tds[4].string])中含有空字符。

后来回去分析网页的源代码发现排名第51的北京航空航天大学的总分是没有的。

51-75北京航空航天大学73.570.262.321.50

即tds[3]在50之后是空的。所以出现错误。

所以我在对输出函数printUnivList()函数利用if else语句进行拆分两段进行打印。