爬虫爬虫 - 知乎的爬虫 (Scrapy 框架)

背景: 前段时间适应了工作环境之后就寻思开始自己捣鼓点东西玩玩, 于是想啊既然网上这么多爬虫教程什么的,那咱也来凑凑热闹把,毕竟我也很喜欢搞点Data玩一玩。但是拖延了好久,这不趁着回来办签证这功夫赶紧把这个push了!


开发的环境:

Mac OSX, Python 3.5, Scrapy 框架  

Tips: 

为什么使用 Python 3.5?
Python 2.x 在不久的将来就不被维护了。

使用的工具:

给大家推荐一款mac上编写python的IDE - Pycharm, 目前我发现它的优点有:1. python intepreter 的版本控制做的很棒,可以随意切换python 版本,另外对每个版本下都安装了什么lib也一目了然。2. 对于不同版本的python,可以很简单的对其进行lib的增加和删除。减少了安装需要考虑路径等不必要的麻烦。3. 支持 自动填充 你打出一个function的开头它给你结尾这样。

项目的简介:

本次项目实现了模拟登录,并在登录之后爬取某个话题下面的所有问题信息。

项目代码:

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值