![](https://img-blog.csdnimg.cn/20201014180756928.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
Scrapy
Hou_Monkey
你若盛开 清风徐来
展开
-
Scrapy框架介绍和简单创建使用
scrapy框架简介1.Scrapy是用纯Python实现一个为了爬取网站数据、提取结构性数据而编写的应用框架,用途非常广泛2.框架的力量,用户只需要定制开发几个模块就可以轻松的实现一个爬虫,用来抓取网页内容以及各种图片,非常之方便3.Scrapy 使用了 Twisted’twɪstɪd异步网络框架来处理网络通讯,可以加快我们的下载速度,不用自己去实现异步框架,并且包含了各种中间件接口,可以灵活的完成各种需求。scrapy架构图(图中的箭头是爬虫中数据流程)图中的功能表述crapy Engi原创 2020-05-13 17:52:12 · 421 阅读 · 0 评论 -
在Scrapy中怎样把数据储存到Mysql 或者Redis中
首先在setting中配置redis基本信息(如果不设置,直接定义也行) 和ITEM_PIPELINES信息REDIS_HOST = 'localhost'REDIS_PORT = 6379REDIS_DB_INDEX = 0REDIS_PASSWORD =""ITEM_PIPELINES = { 'xiaoshuo.pipelines.XiaoshuoPipeline': 200, 'xiaoshuo.pipelines.MysqlPipeline': 300, 'x原创 2020-05-13 16:54:37 · 656 阅读 · 0 评论