掌财社:Python超强反爬虫方案！如何禁用request库请求？

随着近些年python大火，很多人有或多或少学习过一点python，而爬虫的技术又相对比较简单，这就导致了很多学有小成的爬虫开发者待着自己的爬虫在你的网站上爬取数据，对于大站而言，一些小小的爬虫并不会太多地影响他站点的运营。但小站就不一样了，轻则影响其他人的服务效果，重则爬虫掏干净了你的库，然后你的创作就不值钱了，那么作为一个站长，怎么进行python爬虫反爬呢？其实有一个比较简单的操作——使用http2.0。

一、前言

一个非常强的反爬虫方案 —— 禁用所有 HTTP 1.x 的请求！

现在很多爬虫库其实对 HTTP/2.0 支持得不好，比如大名鼎鼎的 Python 库 —— requests，到现在为止还只支持 HTTP/1.1，啥时候支持 HTTP/2.0 还不知道。

Scrapy 框架最新版本 2.5.0（2021.04.06 发布）加入了对 HTTP/2.0 的支持，但是官网明确提示，现在是实验性的功能，不推荐用到生产环境，原文如下：

“

HTTP/2 support in Scrapy is experimental, and not yet recommended for production environments. Future Scrapy versions may introduce related changes without a deprecation period or warning.

”

插一句，Scrapy 中怎么支持 HTTP/2.0 呢？在 settings.py 里面换一下 Download Handlers 即可：

DOWNLOAD_HANDLERS = {
    'https': 'scrapy.core.downloader.handlers.http2.H2DownloadHandler',
}

当前 Scrapy 的 HTTP/2.0 实现的已知限制包括：

• 不支持 HTTP/2.0 明文（h2c），因为没有主流浏览器支持未加密的 HTTP/2.0。
• 没有用于指定最大帧大小大于默认值 16384 的设置，发送更大帧的服务器的连接将失败。
• 不支持服务器推送。
• 不支持bytes_received和 headers_received信号。

关于其他的一些库，也不必多说了，对 HTTP/2.0 的支持也不好，目前对 HTTP/2.0 支持得还可以的有 hyper 和 httpx，后者更加简单易用一些。