python(爬取大学排名)



import requests
from bs4 import BeautifulSoup
import bs4

def gethtml(url):
    try:
        r=requests.get(url,timeout=30)
        r.raise_for_status()
        r.encoding=r.apparent_encoding
        return r.text
    except:
        return ""
def fillUnivList(ulist,html):
    soup=BeautifulSoup(html,"html.parser")
    #arr=soup.find('tbody').contents #contents之后得到的是一个列表,
    #children就是用来遍历的
    #for tr in arr:
    #for tr in soup.tbody.children:三种遍历方法都行
    for tr in soup.find('tbody').children:
        if isinstance(tr,bs4.element.Tag):
            tds=tr('td') #把tr标签里面的td标签弄成列表的形式存起来
            #print('tds=',tds[0]),等价于tds=tr.find_all('td')
            ulist.append([tds[0].string,tds[1].string,tds[4].string])#取出tds列表中有用的三个，再次组合成一个列表，
            #放进另一个列表中，相当于二维列表

def pr(ulist,num):
    print("{:^10}  {:^6}  {:^10}".format("排名","学校","地址"))
    for i in range(num):
        u=ulist[i]
        print("{:^10} {:^6} {:^10}".format(u[0],u[1],u[2]))

def main():
    uinfo=[]
    url='http://www.zuihaodaxue.cn/zuihaodaxuepaiming2016.html'
    html=gethtml(url)
    fillUnivList(uinfo,html)
    pr(uinfo,10)
 
main()