中国大学排名定向爬虫实例

一、程序的结构设计

1.从网络上获取大学排名网络内容

2.提取网友内容中信息到合适的数据结构

3.利用数据结构展示并输出结果

 

中文对齐问题的解决

采用中文字符的空格填充chr(12288)

 

import requests
from bs4 import BeautifulSoup
import bs4

def getHTMLText(url):
    try:
        r = requests.get(url,timeout = 30)
        r.raise_for_status() #产生异常信息
        r.encoding = r.apparent_encoding #修改编码
        return r.text
    except:
        return ""

def fillUnivList(ulist,html):
    soup = BeautifulSoup(html,"html.parser")
    for tr in soup.find('tbody').children:
        if isinstance(tr,bs4.element.Tag):
            tds= tr('td')
            ulist.append([tds[0].string,tds[1].string,tds[2].string])
            

def printUnivList(ulist,num):
    tplt = "{0:^10}\t{1:{3}^10}\t{2:^10}" #{3}使用format中第三个字符填充
    print(tplt.format("排名","学校名称","总分",chr(12288)))
    for i in range(num):
        u = ulist[i]
        print(tplt.format(u[0],u[1],u[2],chr(12288)))


def main():
    uinfo = []
    url = 'http://www.zuihaodaxue.com/zuihaodaxuepaiming2016.html'
    html = getHTMLText(url)
    fillUnivList(uinfo,html)
    printUnivList(uinfo,20)

main()