关于学习网络爬虫的一点建议

学习爬虫前的技术准备
(一). Python基础语法:基础语法﹑运算符﹑数据类型﹑流程控制﹑函数﹑对象模块﹑文件操作﹑多线程﹑网络编程…等
(二).W3C标准:HTML﹑CSS﹑JavaScript﹑Xpath﹑JSON
(三).HTTP标准HTTP的请求过程﹑请求方式﹑状态码含义﹑头部信息以及Cookie状态管理(四).数据库MySQL﹑ MongoDB ﹑Redis…
网络爬虫使用的技术
… 常用爬虫库:urllib requests selenium 以及scrapy爬虫框架
… 在数据解析方面相应的库包括:lxml beautifulsoup4 re pyquery…对于数据解析,主要是从 响应页面里提取所需的数据,常用的方法有:xpath路径表达式, Css选择器,正则表达式等
… xpath路径表达式,css选择器主要用于提取结构化的数据,而正则表达式主要用于提取非结构化的数据
… 数据存储:MySQL,MongoDB,Redis

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值