Python教程爬虫实例1——中国大学排名爬虫程序:
getHTMLText()方法
def getHTMLText(url):
try:
r = requests.get(url, timeout = 30)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return "爬取失败!"
fillUnivList()方法
def fillUnivList(ulist, html):
school_num = 0
soup = BeautifulSoup(html, "html.parser")
for tr in soup.find("tbody").children:
if isinstance(tr, bs4.element.Tag):
tds = tr('td')
ulist.append([tds[0].string, tds[1].string, tds[2].string, tds[3].string])
school_num += 1
return school_num
printUnivList()方法
def printUnivList(ulist, num):
print("{:^10}\t{:^10}\t{:^10}\t{:^10}".format("排名", "学校名称", "所在省市", "总分", chr(12288)))
for i in range(num):
u = ulist[i]
print("{:^10}\t{:^10}\t{:^10}\t{:^10}".format(u[0], u[1], u[2], u[3], chr(12288)))
print("{:^10}\t{:^10}\t{:^10}\t{:^10}".format("排名", "学校名称", "所在省市", "总分", chr(12288)))
对于print()格式化输出的说明:{:^10}表示这个字符串占据10个字符,
^表示居中对齐,如果使用<则表示左对齐,>表示右对齐。我们输出的中文宽度不够约定的宽度时,系统会自动进行填充。但是系统填充的是英文字符,而我们输出占用的是中文字符的宽度。
main()方法
def main():
uinfo = []
url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html"
print(url)
html = getHTMLText(url)
s_num = fillUnivList(uinfo, html)
print("一共爬取了{}个学校的数据!".format(s_num))
printUnivList(uinfo, 200) #20所大学信息
完整程序代码
import requests
from bs4 import BeautifulSoup
import bs4
def getHTMLText(url):
try:
r = requests.get(url, timeout = 30)
r.raise_for_status()
r.encoding = r.apparent_encoding
return r.text
except:
return "爬取失败!"
def fillUnivList(ulist, html):
school_num = 0
soup = BeautifulSoup(html, "html.parser")
for tr in soup.find("tbody").children:
if isinstance(tr, bs4.element.Tag):
tds = tr('td')
ulist.append([tds[0].string, tds[1].string, tds[2].string, tds[3].string])
school_num += 1
return school_num
def printUnivList(ulist, num):
tplt = "{0:^10}\t{1:{4}^10}\t{2:^10}\t{3:^10}"
print(tplt.format("排名", "学校名称", "所在省市", "总分", chr(12288)))
for i in range(num):
u = ulist[i]
print(tplt.format(u[0], u[1], u[2], u[3], chr(12288)))
def main():
uinfo = []
url = "http://www.zuihaodaxue.cn/zuihaodaxuepaiming2019.html"
print(url)
html = getHTMLText(url)
s_num = fillUnivList(uinfo, html)
print("一共爬取了{}个学校的数据!".format(s_num))
printUnivList(uinfo, 200) #200所大学信息
if __name__=="__main__":
main()
该爬虫爬取的是2019年的排名数据
在原来的教程上修改了爬取信息的内容,同时统计了爬取学校的数量。
但是目前还遇见了一个问题,就是在打印时存在的对齐问题,虽然百度了说使用chr(12288)解决,但是添加了相应的限制之后还是出现了以下问题:
希望大家能够指教。
之后又对程序中的printUnivList()方法进行了修改:
def printUnivList(ulist, num):
tplt = "{0:^10}\t{1:{4}^10}\t{2:^10}\t{3:^10}"
print(tplt.format("排名", "学校名称", "所在省市", "总分", chr(12288)))
for i in range(num):
u = ulist[i]
print(tplt.format(u[0], u[1], u[2], u[3], chr(12288)))
便可以完美的显示啦
显示效果: