Scrapy、Scrapy-Splash、Scrapy-Redis安装

该博客详细介绍了如何在已经安装了docker的环境中,通过JupyterLab和终端步骤安装Scrapy、Splash、Scrapy-Splash以及Scrapy-Redis。首先确保配置了国内镜像,然后逐个安装每个组件,包括启动和关闭Splash的流程。Scrapyrt作为轻量级Scrapyd的安装也进行了提及。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

前题:安装docker并能使用

安装完在JSON文件中加入国内镜像,阿里云需要自己申请。

"registry-mirrors": [
    "https://********.mirror.aliyuncs.com",
    "https://registry.docker-cn.com",
    "http://hub-mirror.c.163.com",
    "https://docker.mirrors.ustc.edu.cn"
  ]

其他前题:

已为anaconda配置好PATH

Scrapy 安装

JupyterLab 输入

pip install scrapy
import scrapy

Splash 安装

终端中输入:

docker run -p 8050:8050 scrapinghub/splash

成功安装返回类似如下内容

Digest: sha256:b4173a88a9d11c424a4df4c8a41ce67ff6a6a3205bd093808966c12e0b06dacf
Status: Downloaded newer imag

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值