JS逆向:猿人学爬虫比赛第十三题详细题解

实战地址

http://match.yuanrenxue.com/match/13

抓包分析

地址栏输入 地址，按下F12并回车，发现数据在这里:

如上分析，这是一个典型的cookie反爬，康康cookie相关的字段是啥:

第一次请求时，返回了一个sessionid的cookie:

第二次请求的cookie是这样的:

由于谷歌浏览器第一次请求看不到结果，因此我推荐用火狐浏览器来进行抓包分析:

可以清楚的看到，第一次请求就是直接设置cookie的JavaScript代码，知道这个以后，可以很快的写出源代码:

import re
import requests


session = requests.Session()
headers = {
    "User-Agent": "yuanrenxue.project",
    }


url = "http://match.yuanrenxue.com/match/13"
r = session.get(url)
reg = re.compile("'([a-zA-Z0-9=|_])'")
results = reg.findall(r.text)
cookie =  ''.join(results)
key,value = cookie.split('=')
session.cookies.set(key,value)
sum = 0


for i in range(1,6):
    api_url =f"http://match.yuanrenxue.com/api/match/13?page={i}"
    r = session.get(api_url,headers = headers)
    data = r.json()
    values = data["data"]
    for value in values:
        print (value)
        sum += value["value"]


print (sum)

运行后的结果如下:

这个基本没啥难度，对新手来说，是个不错的cookie反爬案例，大概知道什么是cookie反爬，然后就是使用火狐浏览器来进行抓包分析。

主要考察的是正则的使用吧。