“User-Agent”: “Mozilla/5.0 AppleWebKit/537.36 (KHTML, like Gecko) Version/4.0Chrome/57.0.2987.132 MQQBrowser/6.2 Mobile”,
“Cookie”: cookie
}
self.data = {
“is_only_read”: “1”,
“is_temp_url”: “0”,
“appmsg_type”: “9”,
}
def read_like_nums(self, article_url):
“”“获取数据”“”
appmsgstat = self.get_appmsgext(article_url)[“appmsgstat”]
return appmsgstat[“read_num”], appmsgstat[“old_like_num”], appmsgstat[“like_num”]
def get_params(self, article_url):
“”"
获取到文章url上的请求参数
:param article_url: 文章 url
:return:
“”"
url转义处理
article_url = html.unescape(article_url)
“”“获取文章链接的参数”“”
url_params = utils.str_to_dict(urlsplit(article_url).query, “&”, “=”)
return url_params
def get_appmsgext(self, article_url):
“”"
请求阅读数
:param article_url: 文章 url
:return:
“”"
url_params = self.get_params(article_url)
appmsgext_url = “https://mp. weixin.qq.com/mp/getappmsgext?appmsg_token={}&x5=0”.format(self.appmsg_token)
self.data.update(url_params)
appmsgext_json = requests.post(
appmsgext_url, headers=self.headers, data=self.data).json()
if “appmsgstat” not in appmsgext_json.keys():
raise Exception(appmsgext_json)
return appmsgext_json
if name == ‘main’:
info = Articles(‘1068_XQoMoGGBYG8Tf8k23jfdBr2H_LNekAAlDDUe2aG13TN2fer8xOSMyrLV6s-yWESt8qg5I2fJr1r9n5Y5’, ‘rewardsn=; wxtokenkey=777; wxuin=1681274216; devicetype=android-29; version=27001037; lang=zh_CN; pass_ticket=H9Osk2CMhrlH34mQ3w2PLv/RAVoiDxweAdyGh/Woa1qwGy2jGATJ6hhg7syTQ9nk; wap_sid2=COjq2KEGEnBPTHRVOHlYV2U4dnRqaWZqRXBqaWl3Xy1saXVWYllIVjAzdlM1VkNDNHgxeWpHOG9pckdkREMwTFEwYmNWMl9FZWtRU3pRRnhDS0pyV1BaZUVMWXN1ZWN0WnZ6aHFXdVBnbVhTY21BYnBSUXNCQUFBMLLAjfgFOA1AAQ==’)
a, b,c = info.read_like_nums(‘http://mp. weixin.qq.com/s?__biz=MzU1NDk2MzQyNg==&mid=2247486254&idx=1&sn=c3a47f4bf72b1ca85c99190597e0c190&chksm=fbdad3a3ccad5ab55f6ef1f4d5b8f97887b4a344c67f9186d5802a209693de582aac6429a91c&scene=27#wechat_redirect’)
print(a, b, c)
示例结果
阅读数 点赞数 再看数
1561 23 18
appmsg_token 是一个具有时效性的参数,和 cookie 一样是需要改变的,当这两个参数过期时就需要从抓包工具(MitmProxy 中)ctrl+C,ctrl+V到代码中,很是麻烦。
MitmProxy 可以使用命令行接口 mitmdumvp 运行 Python 代码监听抓取的链接,如果抓到了 https://mp. weixin.qq.com/mp/getappmsgext 就保存在本地文件并退出抓包
mitmdump 命令
-s 运行的python脚本, -w 将截取的内容保持到文件
mitmdump -s write_cookie.py -w outfile mp.weixin.qq.com/mp/getappmsgext
监听脚本
import urllib
import sys
from mitmproxy import http
command: mitmdump -s write_cookie.py -w outfile mp.weixin.qq.com/mp/getappmsgext
class WriterCookie:
“”"
mitmproxy的监听脚本,写入cookie和url到文件
“”"
def init(self, outfile: str) -> None:
self.f = open(outfile, “w”)
def response(self, flow: http.HTTPFlow) -> None:
“”"
完整的response响应
:param flow: flow实例,
“”"
获取url
url = urllib.parse.unquote(flow.request.url)
将url和cookie写入文件
if “mp. weixin.qq.com/mp/getappmsgext” in url:
self.f.write(url + ‘\n’)
self.f.write(str(flow.request.cookies))
self.f.close()
退出
exit()
第四个命令中的参数
addons = [WriterCookie(sys.argv[4])]
监听脚本写好之后,再来写启动命令和解析 url,cookie 文件的模块
import re
import os
class ReadCookie(object):
“”"
启动write_cookie.py 和 解析cookie文件,
“”"
def init(self, outfile):
self.outfile = outfile
def parse_cookie(self):
“”"
解析cookie
:return: appmsg_token, biz, cookie_str·
“”"
f = open(self.outfile)
lines = f.readlines()
appmsg_token_string = re.findall(“appmsg_token.+?&”, lines[0])
biz_string = re.findall(‘__biz.+?&’, lines[0])
appmsg_token = appmsg_token_string[0].split(“=”)[1][:-1]
biz = biz_string[0].split(“__biz=”)[1][:-1]
cookie_str = ‘; ‘.join(lines[1][15:-2].split(’], [’)).replace(‘’‘,’‘).replace(’, ', ‘=’)
return appmsg_token, biz, cookie_str
def write_cookie(self):
“”"
启动 write_cookie。py
:return:
“”"
#当前文件路径
path = os.path.split(os.path.realpath(file))[0]
mitmdump -s 执行脚本 -w 保存到文件 本命令
command = “mitmdump -s {}/write_cookie.py -w {} mp.weixin.qq.com/mp/getappmsgext”.format(
path, self.outfile)
os.system(command)
if name == ‘main’:
rc = ReadCookie(‘cookie.txt’)
rc.write_cookie()
appmsg_token, biz, cookie_str = rc.parse_cookie()
print(“appmsg_token:” + appmsg_token , “\nbiz:” + biz, “\ncookie:”+cookie_str)
示例结果
cookie.txt 文件内容解析后
appmsg_token:1068_av3JWyDn2XCS2fwFj3ICCnwArRb2kU4Y5Y5m9Z9NkWoCOszl3a-YHFfBkAguUlYQJi2dWo83AQT4FsNK
biz:MzU1NDk2MzQyNg==
cookie:rewardsn=; wxtokenkey=777; wxuin=1681274216; devicetype=android-29; version=27001037; lang=zh_CN; pass_ticket=H9Osk2CMhrlH34mQ3w2PLv/RAVoiDxweAdyGh/Woa1qwGy2jGATJ6hhg7syTQ9nk; wap_sid2=COjq2KEGEnBPTHRVOHlYV2U4dnRqaWZqRXBqaWktTHpUSEJnTTdhU0hVZTEtZXpZZEY4a3lNY29zc0VZeEFvLS01YmJRRnQ5eFRmR2dOY29nUWdKSTRVWG13WE1obGs1blhQcVh0V18tRnBSRnVlc1VhOHNCQUFBMPeIjfgFOA1AAQ==
ReadCookie 模块可以自动获取到 appmsg_token 和 cookie,将它们当作参数一样传递到 Articles 模块中,就能解放双手再也不要复制黏贴 appmsg_token 和 cookie 了,只要在 appmsg_token 过期时刷新一下公众号文章就可以了,省心又省时
在公众号历史消息界面将屏幕向上滑动,每次都可以加载 10 条历史消息,盲猜这个翻页就是批量抓取的请求链接,用 MitmProxy 的 WEBUI 界面在 Response 面板查找一下,找到一个是 https://mp. weixin.qq.com/mp/profile_ext?action=getmsg&__biz=MzU1NDk2MzQyNg==&f=json&offset=10&count=10… 的链接,它的响应返回值中有多个文章标题,再看这个链接上有 offset=10&count=10 参数,一看就是翻页偏移量和每页显示的条数,就它了
在链接中比较重要的参数有:__biz、offset、pass_ticket、appmsg_token ,这些数据都可以在 cookie 和 appmsg_token 中得到。
utils.py
工具模块,将字符串变成字典
def str_to_dict(s, join_symbol=“\n”, split_symbol=“:”):
s_list = s.split(join_symbol)
data = dict()
for item in s_list:
item = item.strip()
if item:
k, v = item.split(split_symbol, 1)
data[k] = v.strip()
return data
import os
import requests
import json
import urllib3
import utils
class WxCrawler(object):
“”“翻页内容抓取”“”
urllib3.disable_warnings()
def init(self, appmsg_token, biz, cookie, begin_page_index = 0, end_page_index = 100):
起始页数
self.begin_page_index = begin_page_index
结束页数
self.end_page_index = end_page_index
抓了多少条了
如果你也是看准了Python,想自学Python,在这里为大家准备了丰厚的免费学习大礼包,带大家一起学习,给大家剖析Python兼职、就业行情前景的这些事儿。
一、Python所有方向的学习路线
Python所有方向路线就是把Python常用的技术点做整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。
二、学习软件
工欲善其必先利其器。学习Python常用的开发软件都在这里了,给大家节省了很多时间。
三、全套PDF电子书
书籍的好处就在于权威和体系健全,刚开始学习的时候你可以只看视频或者听某个人讲课,但等你学完之后,你觉得你掌握了,这时候建议还是得去看一下书籍,看权威技术书籍也是每个程序员必经之路。
四、入门学习视频
我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了。
四、实战案例
光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。
五、面试资料
我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。
成为一个Python程序员专家或许需要花费数年时间,但是打下坚实的基础只要几周就可以,如果你按照我提供的学习路线以及资料有意识地去实践,你就有很大可能成功!
最后祝你好运!!!
网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。
一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!