2021-5-01 爬虫:异步加载导致的爬取结果为:[‘‘]

5.1日记录异步加载问题:

首先,祝大家五一劳动节快乐!
今天是从学校到家的第二天。昨天赶了一下午的车。
今天上午拿出课本,翻看了与urllip相关的知识点。晚上开始爬取一个新的网页,这当中遇到了新的问题。这次先记录一下最主要的问题:异步加载。其他的小问题后续再慢慢更新。毕竟五一期间的主要任务要复习概率论!QAQ!!

异步加载:

今晚,我发现爬取网页时,代码应该是没有问题:

blueball=soup.find_all('span',class_= 'blueball_bigst')
blueball_bigst = [span.get_text() for span in blueball]
print(blueball_bigst)

但是爬取结果反馈为:[’’],经过查阅资料,发现是遇到了异步加载的网页。
异步加载指在加载的同时执行代码。向网站进行一次请求,一次只传部分数据。也就是说,这个网站没有第一页、第二页……等,我们直接鼠标下滑就能不断的向下浏览。
爬取异步加载的网页首要任务是找到网页的正确链接。

解决方法附在这里:

https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control

引用:

【1】https://blog.csdn.net/weixin_46002631/article/details/110956309?utm_medium=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control&depth_1-utm_source=distribute.pc_relevant.none-task-blog-2%7Edefault%7EBlogCommendFromMachineLearnPai2%7Edefault-1.control

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

S1901

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值