今天的实战小例子是关于数据信息爬取的,带你们完成微信公号的爬虫,接下来会继续通过搜狗的知乎搜索抓取知乎上与 Python 相关的文章、问答。
微信公众号的文章链接有些是具有时效性的,过一段时间会变成参数错误而无法访问,但是我们发现从公众号后台点击过去得到的链接却是永久链接,其参数不会改变链接也不会失效,也就是说只要能够获得这些参数就可以得到永久链接。通过观察发现即使从搜狗搜索入口的有时效性的链接访问网页,其源码中也带有这些参数:
所以只要解析这几个参数,就可以构造出永久链接。
首先通过搜狗搜索入口,可以获取 Python 关键词搜索的结果,地址为:
HOST = 'http://weixin.sogou.com/'entry = HOST + "weixin?type=2&query=Python&page={}"复制代码
提取链接、标题和摘要信息:
import requests as req
import re
rInfo = r'([\s\S]*?)<\ a="">[\s\S]*?<\ h4="">\s*([\s\S]*?)<\ p="">'html = req.get(entry.format(1)) infos = re.findall(rInfo, html)复制代码
由于关键词搜索会在标题或摘