学习爬虫基础7-动态的去获取-json数据

本文介绍如何动态获取豆瓣电影的JSON数据。由于数据是通过AJAX请求加载,不能直接从HTML源码获取。解决方案是模拟前端请求,直接向服务器发送请求获取JSON。文中展示了查看网络请求、确定请求路径和参数的方法,并提供了代码演示来实现这一过程。
摘要由CSDN通过智能技术生成

动态的获取豆瓣电影的json数据

  1. 进入豆瓣电影 查看源码,源码中并没有我们需要的数据,通过浏览器的检查功能中的 network ,可以看到页面上的数据是通过前端发送ajax请求,动态的获取的.这样我们就不能直接在html页面中获取到想要的数据了.
  2. 解决的办法: 直接发送请求去后台获取到返回的json数据
  3. 地址栏中的请求路径:
  4. 地址栏中的请求路径
  5. 根据需求检索的电影
  6. 这里写图片描述
  7. 检索的结果
  8. 这里写图片描述
  9. 前段发送的ajax请求 和返回的数据
  10. 这里写图片描述
  11. 在header 消息头中的一栏的 最下边是我们的检索方式 也就是我们发送请求需携带的参数
  12. 这里写图片描述
  13. 基于以上的条件我们就可以采用代码去发送我们的请求
  14. 代码演示:
# coding=utf-8

# https://movie.douban.com/j/new_search_subjects?
# sort=T&range=0,10&tags=%E5%89%A7%E6%83%85&start=0
# 分析:
# 请求需要带去的参数
# sort:T   排序
# range:0,10  评分范围
# tag
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值