15.0 Scrapy 使用中出现的错误分享

目录

一、把 Scrapy项目创建在一个 python 项目中

1、导致情况及解决方法(简述)

2、导致情况及解决方法(详述) 

2.1 导致引入模块时找不到

2.2 后续 scrapy crawl 命令报错


一、把 Scrapy项目创建在一个 python 项目中

1、导致情况及解决方法(简述)

        (1)引入模块时找不到

        原因:.idea 文件不在 Scrapy 项目中,不与模块同目录。

        (2)后续 scrapy crawl 命令报错

解决方法:把 Scrapy 项目重新创建,确保 .idea 文件在项目文件中。

2、导致情况及解决方法(详述) 

2.1 导致引入模块时找不到

       例如:我在 BookStudyCrawler 这个 python 项目中的 fifthScrapy中 cmd 命令scrapy startproject scrapytutorial,创建了一个 scrapytutorial 的 scrapy 项目。

        之后我想从 item.py 中导入类,发现并没有找到应该出现的 scrapytutorial 模块。

        需要以下代码导入:

from fifthScrapy.scrapytutorial.scrapytutorial.items import QuoteItem

        我发现 fifthScrapy 正是与 python 项目 BookStudyCrawler 中的.idea 文件同目录。

        所以我认为 python 引入模块是依靠 .idea 文件定位,以 .idea 文件同级开始引入。

解决方法:

        之后我在 bookStudyProject 文件中 cmd 命令 scrapy startproject tutorial 重新创建一个项目 tutorial 再来导入 items.py中的类。发现 OK 了。

2.2 后续 scrapy crawl 命令报错

        在第一种情况硬着头皮没创建新的项目,直接按错误方式引入:

from fifthScrapy.scrapytutorial.scrapytutorial.items import QuoteItem

        之后导致scrapy crawl 命令报错。

解决方法:把 Scrapy 项目重新创建,确保 .idea 文件在 项目文件中。

        文章到此结束,本人新手,若有错误,欢迎指正;若有疑问,欢迎讨论。若文章对你有用,点个小赞鼓励一下,谢谢大家,一起加油吧!

  • 9
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Scrapy,yield是一个关键字,用于在Spider类定义生成器函数。yield的作用是将爬取到的数据以及相关的请求传递给Scrapy引擎,然后由引擎负责处理这些数据和请求。 在Scrapy,当Spider类的解析函数返回一个包含yield关键字的可迭代对象时,Scrapy会将这个可迭代对象作为生成器来处理。每次生成器迭代时,它会产生一个Item对象或一个Request对象。如果生成器产生的是一个Item对象,那么这个Item对象会被送入到Scrapy引擎的Item Pipeline进行处理。如果生成器产生的是一个Request对象,那么这个Request对象会被发送给Scrapy引擎,并由引擎继续处理。 通过使用yield,可以实现异步的数据获取和处理。当爬虫在处理一个请求时,可以暂停处理,等待其他请求的响应返回,然后再恢复处理。这样可以提高爬取效率,并且减少内存占用。 总的来说,yield在Scrapy使用方式是将爬取到的数据以及相关的请求一次性返回给Scrapy引擎,然后由引擎来处理这些数据和请求。<span class="em">1</span> #### 引用[.reference_title] - *1* [Python新浪新闻数据爬取统计展示项目](https://download.csdn.net/download/whirlwind526/88262065)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 100%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值