1. 如果想看到更多项目,并不能像网易云音乐那样点“下一页”翻页,而是需要向下拉滚动条或者向下滚动鼠标滚轮来触发异步请求。爬虫该如何应对这种情况呢?我们可以使用selenium的api执行js代码将屏幕内容滚动到指定位置。
#一直滚动到最底部
js1 = ‘return document.body.scrollHeight’
js2 = ‘window.scrollTo(0, document.body.scrollHeight)’
old_scroll_height = 0
while browser.execute_script(js1) >= old_scroll_height:
old_scroll_height = browser.execute_script(js1)
browser.execute_script(js2)
time.sleep(1)
scrollTo() 方法可把内容滚动到指定的坐标:
参数 描述
xpos 必需。要在窗口文档显示区左上角显示的文档的 x 坐标。
ypos 必需。要在窗口文档显示区左上角显示的文档的 y 坐标。