虽然在之前的作业中有用过,用完的感受就是find()与findall()函数的使用。
找到标签树里面的规律,然后用其提取。
因为有接触过,所以尝试先做作业,后总结知识点,检验自己之前的内容有没有掌握
- 先检查,找到规律,发现我们要找的东西都在div下的li里面。
、 - 当然是先选择打开jupyter 然后导入各个模块啦
- 然后获取网页URL,使用BeautifulSoup整理。
import requests
import re
from bs4 import BeautifulSoup
url= 'https://www.nber.org/new.html'
resp =requests.get(url).text
soup=BeautifulSoup(resp,"html.parser")
print(soup)
infos=soup.find("ul").find_all("li")
for info in infos:
title=info.find("a")
print(title.text)
print(url+title["href"])
结果
差点忘记了总结: