python爬虫(二 )实例——beautiful soup爬取大学排名

学完技术是时候该磨磨刀了
爬取大学排名地址https://www.shanghairanking.cn/rankings/bcur/2020
我们的思想是这样的
在这里插入图片描述
废话不多说先上实验代码!!注意事项请看注释

import requests
import bs4
def getHtmlText(url):
    try:
        r = requests.get(url,timeout=30)
        r.raise_for_status()
        r.encoding = r.apparent_encoding
        return r.text
    except:
        return ""
def fillUnivList(ulist,html):
    soup = bs4.BeautifulSoup(html,"html.parser")#html.parser to parser the html
    for tr in soup.find('tbody').children:#请注意children返回的是一个迭代类型也即是literator object而contents返回的是一个列表
        if isinstance(tr,bs4.element.Tag):#filte String type
            tds = tr('td')#findAll 返回的是一个列表类型
            #print("这是打印的"+tds[0].contents[0])
            ulist.append([tds[0].text,tds[1].text,tds[2].text])#记住这里不能用string
        
def printUnivList(ulist,num):
    for i in range(num):
        u=ulist[i]
        print("{}{}{}".format(u[0],u[1],u[2]))

if __name__ == "__main__":
    ulist = []
    html = getHtmlText("https://www.shanghairanking.cn/rankings/bcur/2020")
    fillUnivList(ulist,html)
    printUnivList(ulist, 10)

输出结果
在这里插入图片描述

在这里插入图片描述
tds=tr(‘td’)正是findAll的缩写
在这里插入图片描述
print的format方法
在这里插入图片描述
在这里插入图片描述
输出格式问题的改进
fomat方法中的符号约定
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值