Scrapyd的安装和Gerapy的部署

1.Scrapyd的安装

语句:pip install scrapyd
下载完后可以在Python文件夹中查看
我自己的路径:E:\software\python\python3.8.6\Lib\site-packages\scrapyd
该文件夹下的

default_scrapyd.conf 为Scrapyd的配置文件
在这里插入图片描述
比如我们可以将bind_address = 127.0.0.1 更改,默认为本地网访问
改为:bind_address = 0.0.0.0
这样可以用所有IP访问,外部IP也可以访问

  • 启动Scrapyd:
    在CMD终端中输入:scrapyd
    在这里插入图片描述
    在浏览器中访问:http://127.0.0.1:6800/
    显示如下则启动成功
    在这里插入图片描述

1.1补充

为了预防和解决 scrapyd-deploy不是内部外部命令
需要在Python解释器文件夹下的Scripts
我的路径:E:\software\python\python3.8.6\Scripts
新建两个文件
1.scrapy.bat
2.scrapyd-deploy.bat
在这里插入图片描述
更改文件内容:

  • scrapy.bat内容如下:
@echo off 
E:\software\python\python3.8.6\python E:\software\python\python3.8.6\Scripts\scrapy %* 
  • scrapyd-deploy.bat文件内容如下:
@echo off 
"E:\software\python\python3.8.6\python.exe" "E:\software\python\python3.8.6\Scripts\scrapyd-deploy" %*

若出现转义错误,则打开scrapyd下的utils.py文件
我的路径:E:\software\python\python3.8.6\Lib\site-packages\scrapyd

140行左右改为如下,
将原本的tmp = out.decode('utf-8').splitlines();注释
在这里插入图片描述
添加代码:

    if isinstance(out, bytes):
        tmp = out.decode('utf-8').splitlines();
    else:
        tmp = out.splitlines();

2.Gerapy使用

安装:pip install gerapy
若安装成功,可以在终端输入语句进行尝试:gerapy
在这里插入图片描述
gerapy创建流程:

  • gerapy的初始化
    在需要创建gerapy的路径下:gerapy init
    会生成一个gerapy文件夹
  • cd gerapy
  • 生成一个SQLite数据库,数据库保存主机配置信息和部署版本等:gerapy migrate
  • 启动gerapy服务: gerapy runserver
    在本机浏览器的http://127.0.0.1:8000查看
  • 创建超级用户:.gerapy createsuperuser
    便于管理和进入gerapy(创建后要重新启动gerapy服务器)
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值