5.1日记录异步加载问题:
首先,祝大家五一劳动节快乐!
今天是从学校到家的第二天。昨天赶了一下午的车。
今天上午拿出课本,翻看了与urllip相关的知识点。晚上开始爬取一个新的网页,这当中遇到了新的问题。这次先记录一下最主要的问题:异步加载。其他的小问题后续再慢慢更新。毕竟五一期间的主要任务要复习概率论!QAQ!!
异步加载:
今晚,我发现爬取网页时,代码应该是没有问题:
blueball=soup.find_all('span',class_= 'blueball_bigst')
blueball_bigst = [span.get_text() for span in blueball]
print(blueball_bigst)
但是爬取结果反馈为:[’’],经过查阅资料,发现是遇到了异步加载的网页。
异步加载指在加载的同时执行代码。向网站进行一次请求,一次只传部分数据。也就是说,这个网站没有第一页、第二页……等,我们直接鼠标下滑就能不断的向下浏览。
爬取异步加载的网页首要任务是找到网页的正确链接。
解决方法附在这里: