windows下scrapy-redis分布式爬虫的搭建与远程连接

前言

本测试中使用两台电脑,一台win10(作为主机/服务器端),一台win8(作为爬虫端)。
在测试中,win10作为服务器,win8作为爬虫端,win8可以连接win10的redis数据库。但是反过来就不行,至今没找到问题的原因,猜测可能是系统设置的问题。还请大神指教。

scrapy-redis环境配置

Master(win10,服务器/主机)

redis安装

  • 首先安装redis,在页面中下载.msi或者.zip。服务端和爬虫端都需要下载,推荐下载.zip格式。
  • 将下载好的.zip文件解压,修改文件夹名字为Redis,测试中解压的文件夹目录为D:\Program Files\Redis。
  • 将redis安装目录添加到系统变量中。

在这里插入图片描述

  • 打开D:\Program Files\Redis\redis.windows.conf和redis.windows-service.conf文件,修改:
  1. 注释掉bind 127.0.0.1。

在这里插入图片描述

  1. 把protected-mode yes改为protected-mode no。

在这里插入图片描述

启动redis服务

  • 有两种启动redis服务,建议用第一种方式启动。(服务端需开启redis服务,爬虫端不需开启)
    1.在Redis目录下,在命令行输入: redis-server .\redis.windows.conf。若在任意目录下输入,需要指定redis.windows.conf的路径。
    2.先把redis服务加载到系统服务中:redis-server --service-install redis.windows-service.conf --loglevel verbose
    再启动redis服务:redis-server --service-start
    终止服务:redis-server --service-stop

第2种方式会在系统服务中添加redis服务,会一直存在,直至删除。如需删除

  • 2
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值