1.网页源码中找到我们需要获取

一、需求分析

二、页面分析

  1. 我们需要在网页源码中找到我们需要获取的信息。所有我们在刷新页面后出现的3个XHR下需找我们需要的信息。

  2. 依次点开找到最后一个包如图。

  3. 打开任意一个列表(这里不确定是不是列表暂且这么叫)如图。找到我们所需要爬取的信息。

  4. 找到我们需要获取的信息之后,我们需要获取这个网页的url,所有这里点击Headers继续观察我们所需要的内容。

  5. 观察上图我们可以找到所有要的url和对应的请求方式(GET)。然后继续向下找,如图。

  6. 注意观察这里的信息与网页url之间的关系我们发现,网页的url与Param之间存在对应关系。

三、访问url

  1. 对url进行相应的修改

  1. 使用Param
    将之前找的Prama复制到程序中,添加相应的引号结果如下:
  1. 发起请求,获取数据

截取部分运行结果如下:


四、提取json中的数据

运行结果如下:

五、优化设计

  1. 这里我们只获取了前20个电影的名称和评分,也就是爬取了第一页的数据。
  2. 我们可以通过修改param字典中的value和使用for循环获取更多的信息。
  3. 对param进行简单的分析,这里的17代表——科幻,start : 0 从第0个开始,limit:20 一共20个。也就是一页的数据。可以将他们改为20,20.

六、完整的代码如下:

  • 5
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

CAFEBABE 34

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值