python爬取网页上的特定链接_python 用bs4解析网页后,如何循环打开爬取出来的网址链接?...

请问,用beautiful soup爬取特定网页后提取tag ‘a’,抓取里面的网址,打开特定的网址,循环特定次数,最后打印出想要的网址,如何操作?

作业的要求如下图:

bVbrwmZ?w=1334&h=672

我的代码如下:

import urllib.request, urllib.parse, urllib.error

from bs4 import BeautifulSoup

import ssl

# Ignore SSL certificate errors

ctx = ssl.create_default_context()

ctx.check_hostname = False

ctx.verify_mode = ssl.CERT_NONE

url = input('Enter - ')

def crawl(url):

html = urllib.request.urlopen(url, context=ctx).read()

soup = BeautifulSoup(html, 'html.parser')

position=0

count=0

tags = soup('a')

for tag in tags:

x=tag.get('href',None)

position=position+1

if position==3:break

crawl(x)

count=count+1

if count==4:break

print(x)

目前遇到的瓶颈就是,我知道如何抓取第一次输入的网址,然后也能提取出tag里面要求的内容。

但是如何打开特定的网址,然后循环特定的次数,最后打印出最终想要的网址我就不会了。求各位大牛指教。

sample problem 链接:http://python-data.dr-chuck.n... 打开之后是一个表格,每个表格里面的人名都是超链接,点进去每个超链接还是一个表格,也是每个人名都是超链接。

运行以上代码,结果如图: 没有任何数据,也没有报错。研究了一下午了,实在不知道哪里出了问题,请求赐教。万分感谢!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值