猿人学web端爬虫攻防大赛赛题解析_第三题:访问逻辑

1、前言

好嘛,终于来到第三关了,继上次解完第二题后,大致看了下第三题,题目难度标注是“简单”,这可还行!终于碰到一道简单的赛题了,凭借前两题积累的小经验和小技巧,这题想来应该不会有什么大问题。然而我还是高估了自己,低估了题目,最终依然没能在不借助外力,不参考其他大佬解题思路的前提下把他整出来,怅恨久之!不过跟这道题死磕的一星期里还是有一些收获,闲言少叙,接下来进入正题!

2、题目理解

这道题的名称其实很有意思,从题目链接点进来以后,会发现网页的title显示的是罗生门,好奇的我专门查了下罗生门什么意思,因为这搞不好会为解题提供点思路。一番百度搜索后发现就是说真相扑朔迷离、真假难辨,进而让我思考到会不会是提供假数据什么的,后来发现路子走歪了,关键还在于网页的访问逻辑
在这里插入图片描述

3、解析过程

3.1、逻辑分析

3.1.1、一回生

一开始还是照例,打开开发者模式,观察访问页面是发生了哪些请求
问题描述
从观察到的请求链接来看,不出所料,数据也是通过AJAX请求获得的,
在这里插入图片描述观察这个请求的返回值:http://match.yuanrenxue.com/api/match/3,可以发现数据就是通过这个api返回的。
数据页那么问题来了,这个请求是否携带了什么加密参数,或者cookie信息?查看请求头,发现请求时的确携带了这个叫sessionid的cookie信息,并且响应头里也返回了Set-Cookie,也就是说在发送完请求后,服务器会返回sessionid,大胆推测一下,之后请求的时候带上这个sessionid是否可以会通过服务器校验,直接返回数据?
cookie
经过几次翻页,可以发现之后的请求,我们cookie里携带的是这个sessionid,服务器每次也会返回Set-Cookie信息,并且与最初的sessionid一致。
翻页看起来发现了不得了的规律,接下来,就在请求头里携带这个sessionid模拟一下,直接请求这个数据接口!理想很丰满,现实很骨干,当场

  • 3
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 9
    评论
对于您提到的错误TypeError: list indices must be integers or slices, not str,这是因为您在访问列表中的元素时使用了字符串作为索引,而列表的索引必须是整数或切片类型。解决这个错误的方法是使用整数或切片来访问列表中的元素。 关于您提到的猿人js逆向的问,我需要更多的信息才能为您提供具体的答案。对于爬虫编写,您可以使用Python的各种库(如Requests、BeautifulSoup、Scrapy等)来获取网页的内容,并进一步解析和处理。您可以使用这些库发送HTTP请求获取网页内容,然后使用解析库来提取您需要的数据。 爬虫编写的一般步骤如下: 1. 导入所需的库 2. 发送HTTP请求获取网页内容 3. 使用解析解析网页内容 4. 提取所需的数据 5. 进行数据的进一步处理和存储 您可以根据具体的需求和网站的结构进行相应的编写和调试。如果您需要更具体的帮助,请提供更多的信息。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [Python:TypeError: list indices must be integers or slices, not str报错解决及原理](https://blog.csdn.net/hhd1988/article/details/128031602)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [Python BeautifulSoup [解决方法] TypeError: list indices must be integers or slices, not str](https://download.csdn.net/download/weixin_38590567/14871394)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值