python scrapy 爬虫 遇到问题raise ValueError('Missing scheme in request url: %s' % self._url)

在做python scrapy爬虫爬艺搜网站的项目时,遇到了以下问题。

 File "E:\课程学习文件\大三下册\信息检索\2019.4.45.TW04\yisou1\yisou1\spiders\spider.py", line 61, in new_parse
    yield scrapy.Request(url, meta={'item2': item2}, callback=self.addr_parse)
  File "c:\users\ly\appdata\local\programs\python\python36\lib\site-packages\scrapy\http\request\__init__.py", line 25, in __init__
    self._set_url(url)
  File "c:\users\ly\appdata\local\programs\python\python36\lib\site-packages\scrapy\http\request\__init__.py", line 62, in _set_url
    raise ValueError('Missing scheme in request url: %s' % self._url)
ValueError: Missing scheme in request url: /institution-ORG31847.html

原因:以下的url_ok没有使用绝对url

yield scrapy.Request(url_ok, meta={'item2': item2}, callback=self.addr_parse)

解决办法:构造绝对url。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值