最近在学习过程中,遇到了网站的反爬机制,由于不是很严格,所以使用代理即可解决,并把自己的具体配置过程总结如下:
第一步:修改middlewares文件
from .settings import USER_AGENTS
from .settings import PROXIES
import random
import base64
# 随机浏览器
class RandomUserAgent:
def process_request(self,request,spider):
useragent = random.choice(USER_AGENTS) #随机选择一个代理
request.headers.setdefault("User-Agent",useragent) #代理
# 随机代理
class RandomProxy:
def process_request(self,request,spider):
proxy = random.choice(PROXIES)
# 没有代理用户密码
if proxy["user_passwd"] is None:
request.meta["proxy"] = "http://" + proxy["ip_port"]
else:
# 账户密码进行编码操作
base64_userpasswd = base64.b64encode(proxy["user_passwd"].encode("utf-8"))
request.headers["Proxy-Authorization"] = "Basic " + base64_userpasswd.decode("utf-8")
request.meta["proxy"] = "http://" + proxy["ip_port"]
(注:这里主要用于随机生成代理浏览器和地址,对于随机代理这块,如果代理有用户名密码,需要使用base64进行加密处理)
第二步:修改setting配置文件
1.设置默认代理
USER_AGENT = 'Mozilla/5.0 (compatible; MSIE 9.0; Windows NT 6.1; Trident/5.0;'
(这个只需要将注释打开,后面修改为代理浏览器即可)
2.修改ROBOTSTXT_OBEY
属性为false
# Obey robots.txt rules
ROBOTSTXT_OBEY = False
3.禁止cookie
# Disable cookies (enabled by default)
COOKIES_ENABLED = False
4.启用下载中间组件
# Enable or disable downloader middlewares
# See https://docs.scrapy.org/en/latest/topics/downloader-middleware.html
DOWNLOADER_MIDDLEWARES = {
# 配置代理
'csdn.middlewares.RandomUserAgent': 100,
'csdn.middlewares.RandomProxy': 200,
}
(注:这里的代理是第一步中配置的,后面的数值100,200为官方默认数值)
5.添加浏览器和ip的代理列表
PROXIES =
[
{"ip_port":"192.168.17.2","user_passwd":None}
]
USER_AGENTS = [
'Mozilla/4.0 (compatible; MSIE 8.0; Windows NT 6.0)',
'Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.2)',
'Opera/9.27 (Windows NT 5.2; U; zh-cn)',
'Opera/8.0 (Macintosh; PPC Mac OS X; U; en)',
'Mozilla/5.0 (Macintosh; PPC Mac OS X; U; en) Opera 8.0',
'Mozilla/5.0 (Linux; U; Android 4.0.3; zh-cn; M032 Build/IML74K) AppleWebKit/534.30 (KHTML, like Gecko) Version/4.0 Mobile Safari/534.30',
'Mozilla/5.0 (Windows; U; Windows NT 5.2) AppleWebKit/525.13 (KHTML, like Gecko) Chrome/0.2.149.27 Safari/525.13'
]
(注:这个主要是用来第一步中随机生成代理ip和浏览器,我这里只用了一个ip,如果你有多个可以随意添加)
经过以上的配置,scrapy就会经过代理去访问页面从而获取数据了