问 题
在爬虫时遇到下面的导航树:
——div.center
——div.ft_ggbox_1 balck_ggbox_1
——div.black_jubao_right black_jubao_right_xxbh black_jubaot_xxbh
——form#listform
——p
——a
——div.ft_publick_pzxx
——div.ft_publick_pzxxright ft_publick_myjb
——p
——a
如果使用find函数,只能找到第一个a标签,下面的a都无法找到,但是如果用find_all函数,又会把a的child全提取,但实际上我只想提取所有a的href而已,这个问题我该怎么解决呢?
解决方案
提问问题的姿势不对,这样子别人很难为你解答,应该给出网页的完整结构。
from bs4 import BeautifulSoup
url = 'https://segmentfault.com/'
html = requests.get(url).content
soup = BeautifulSoup(html, 'lxml')
for hrefs in soup.find_all('a'):
print(hrefs.get('href'))
这样子不就可以了
扫一扫关注IT屋
微信公众号搜索 “ IT屋 ” ,选择关注与百万开发者在一起