爬虫beautiful soup,xpath,scrapy从简单的开始学,都学了好还是只学最难的好?

BeautifulSoup是用于网页解析的包,XPATH是网页的一种选取方法,scapy是分布式异步爬虫框架。这三个是不同的方面,都得学。

个人建议:

1、从request包开始学起,这是常用的网页请求包,上手很简单的,找个自己感兴趣的小说或者图片站,尝试自己写个简单的抓取工具。使用过程中可以了解网页请求方法、请求头、响应头、代理、Cookies等相关的概念,静态网站和动态加载网页的区别,抓取内容的保存和处理。

2、学习下HTML的基本知识,网页获取到了,如何在网页上定位到所需要的内容,就需要用到 XPATH (lxml包)选取方法和 re 正则表达式,前者可以定位到你需要的网页内容,后者可以快速提取和筛选内容。也可以了解下CSS选择方法或者使用 BeautifulSoup来解析网页,不过建议还是XPATH比较好用。(如果正则表达式用得很顺,就没有其它包的事了)

3、学习 pymysql,pyredis等相关的数据库组件,以及文本和图片保存处理方法,抓下来的东西总得保存起来吧。mysql是常用的数据库, redis是常用的缓存数据库。另外也可以学习下pillow,可以很方便地对图片进行处理,比如缩放、改格式、转b64等。

4、了解一些JS的基本概念,最好能看懂JS的代码,或者学习phantomjs,splash,很多网站都使用了JS脚本做动态加载的。不管是requests还是scrapy,都不提供JS功能,必须用其它包才能获得js加载的内容。顺便可以了解下无头浏览器和自动化脚本的使用。

5、学习threading多线程开发或者 异步开发,抓取小网站的时候,速度会飞起。

6、scrapy,如果工作有需要,可以看一下,requests用好了,scrapy顶多两三天就会用了。

写得虽然很多,但其实都很简单的,不难,就是东西杂了点。

关于Python技术储备

学好 Python 不论是就业还是做副业赚钱都不错,但要学会 Python 还是要有一个学习规划。最后大家分享一份全套的 Python 学习资料,给那些想学习 Python 的小伙伴们一点帮助!

一、Python所有方向的学习路线

Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

在这里插入图片描述

二、Python必备开发工具

三、Python视频合集

观看零基础学习视频,看视频学习是最快捷也是最有效果的方式,跟着视频中老师的思路,从基础到深入,还是很容易入门的。

四、实战案例

光学理论是没用的,要学会跟着一起敲,要动手实操,才能将自己的所学运用到实际当中去,这时候可以搞点实战案例来学习。

五、Python练习题

检查学习结果。

六、面试资料

我们学习Python必然是为了找到高薪的工作,下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料,并且有阿里大佬给出了权威的解答,刷完这一套面试资料相信大家都能找到满意的工作。

 最后祝大家天天进步!!

上面这份完整版的Python全套学习资料已经上传至CSDN官方,朋友如果需要可以直接微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
包括浏览器抓包,手机APP抓包,如 fiddler、mitmproxy,各种爬虫涉及的模块的使用,如:requests、beautifulSoup、selenium、appium、scrapy等,以及IP代理,验证码识… 爬虫(Web Crawler)是一种自动化程序,用于从互联网上收集信息。其主要功能是访问网页、提取数据并存储,以便后续分析或展示。爬虫通常由搜索引擎、数据挖掘工具、监测系统等应用于网络数据抓取的场景。 爬虫的工作流程包括以下几个关键步骤: URL收集: 爬虫从一个或多个初始URL开始,递归或迭代地发现新的URL,构建一个URL队列。这些URL可以通过链接分析、站点地图、搜索引擎等方式获取。 请求网页: 爬虫使用HTTP或其他协议向目标URL发起请求,获取网页的HTML内容。这通常通过HTTP请求库实现,如Python中的Requests库。 解析内容: 爬虫对获取的HTML进行解析,提取有用的信息。常用的解析工具有正则表达式、XPathBeautiful Soup等。这些工具帮助爬虫定位和提取目标数据,如文本、图片、链接等。 数据存储: 爬虫将提取的数据存储到数据库、文件或其他存储介质中,以备后续分析或展示。常用的存储形式包括关系型数据库、NoSQL数据库、JSON文件等。 遵守规则: 为避免对网站造成过大负担或触发反爬虫机制,爬虫需要遵守网站的robots.txt协议,限制访问频率和深度,并模拟人类访问行为,如设置User-Agent。 反爬虫应对: 由于爬虫的存在,一些网站采取了反爬虫措施,如验证码、IP封锁等。爬虫工程师需要设计相应的策略来应对这些挑战。 爬虫在各个领域都有广泛的应用,包括搜索引擎索引、数据挖掘、价格监测、新闻聚合等。然而,使用爬虫需要遵守法律和伦理规范,尊重网站的使用政策,并确保对被访问网站的服务器负责。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值