爬虫笔记1901026

Scrapy框架是什么

在这里插入图片描述

图片来自于视频截图 https://www.bilibili.com/video/av13663892?from=search&seid=14558547834902071738 时间:00:18

Scrapy 运行流程

关于Scrapy运行流程的小故事

如片来自视频截图 https://www.bilibili.com/video/av13663892?from=search&seid=14558547834902071738 时间:5min左右

制作Scrapy爬虫步骤

在这里插入图片描述

图片来自于 https://www.bilibili.com/video/av13663892?from=search&seid=14558547834902071738 时间:视频末尾

Scrapy框架<----这里开始才是正文

配置安装

  • 操作系统:ubuntu 版本什么的忘了
  • 安装依赖软件
    sudo apt-get install python-pip
    sudo apt-get install python-dev
    sudo apt-get install libevent-dev
  • 开始下载
    sudo pip install scrapy
    这个下载的时候好像有点慢。。。TAT
  • 检验
    试着运行一下,输入scrapy,如果成功,会出现下图。不会失败!其实我也不知道
    在这里插入图片描述
  • 创建项目
    scrapy startproject test1
    在这里插入图片描述
  • 创建爬虫
    这里需要更换目录
    在这里插入图片描述
    咱进去看看
    在这里插入图片描述
    在这里插入图片描述
    上图是已经是处理过的,用来打印那个网址的body。。。原图忘了保存,问题不大
  • 检查
    在这里插入图片描述
    在这里插入图片描述
    应该是成功了

推荐参考资料

https://scrapy-chs.readthedocs.io/zh_CN/0.24/

总结

这个利用scrapy框架爬取信息的方式似乎比较简单(黑人问号脸???)
整个流程来说就是创建项目,修改一些参数,似乎就好了
另外,似乎好像还有很多东西要学,脑子里有很多东西想要实现却不知道怎样实现的,加油~
在这里插入图片描述

图片来自视频截图 https://www.bilibili.com/video/av13663892/?p=5 时间:00:04
·····························································································End!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值