【Python】EasySpider:一个很强大的可视化网络爬虫工具,100%开源完全免费

EasySpider是一个可视化爬虫软件,可以使用图形化界面,无代码可视化的设计和执行爬虫任务。只需要在网页上选择自己想要爬的内容并根据提示框操作即可完成爬虫设计和执行。同时软件还可以单独以命令行的方式进行执行,从而可以很方便的嵌入到其他系统中。自发布以来,已经有3.9K Star

一、下载安装EasySpider

支持Windows、MacOS、Linux系统安装。

下载地址:
https://github.com/NaiboWang/EasySpider/releases
在这里插入图片描述

下载完成后,如下图所示(macos安装为例):
在这里插入图片描述

二、体验初探:获取ebay网站数据

1、设计任务

1)打开EasySpider主程序

在这里插入图片描述

2)点击【中文】

在这里插入图片描述

3)点击【设计任务】

在这里插入图片描述
然后这里选择【使用纯净版浏览器设计】,无需用户登录信息。
在这里插入图片描述

4)进入EasySpider设计窗口,大概过5秒钟后,会同时打开一个浏览器窗口

在这里插入图片描述

5)点击【新建任务】,输入ebay网址地址https://www.ebay.com,点击【开始设计】,打开ebay官网

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

6)输入搜索关键字:右击搜索框,点击【输入文字】按钮;输入搜索关键字,然后点击【确定】按钮

在这里插入图片描述
在这里插入图片描述

7)搜索:右击【搜索】按钮,点击【点击该按钮】,搜索出关于关键字“手机”的所有商品

在这里插入图片描述
在这里插入图片描述
此时会发现EasySpider主窗口的设计面板,会多出输入文字、点击元素两个动作,表示刚才的操作被加入当前任务队列中了。
在这里插入图片描述

8)采集标题:右击手机商品的标题,点击【选择全部】,这时所有的商品的标题都会选中;点击【采集数据】,则采集当前页面的手机商品标题的任务会被加入队列中

在这里插入图片描述
在这里插入图片描述

这时可以看到EasySpider主窗口的设计面板,又有新的任务加入。
在这里插入图片描述

9)循环点击下一页:页面滚动至底部,可以看到分页按钮;右击【下一页】按钮,点击【循环点击该链接】按钮

在这里插入图片描述
在这里插入图片描述

10)通过【剪切元素】调整任务顺序,实现循环点击下一页并循环相应页面的所有商品标题

在这里插入图片描述
在这里插入图片描述
最终采集步骤如下所示:
在这里插入图片描述
注意:执行步骤6至10过程中每个步骤可能会失败,单个步骤多重复操作1~2次就行

11)保存设计任务,关闭设计窗口,返回首页

在这里插入图片描述

2、执行任务

1)回到EasySpider首页,点击【查看执行任务】

在这里插入图片描述

2)点击【任务信息】

在这里插入图片描述

3)点击【调用任务】

在这里插入图片描述

4)修改执行任务条件,点击【本地直接执行】按钮;复制弹框里的执行脚本

在这里插入图片描述

在这里插入图片描述

5)打开easyspider_executestage程序,粘贴步骤5生成的脚本,然后静静地等待任务执行完成

在这里插入图片描述

6)最终获取的数据文件会保存在Data目录下

在这里插入图片描述
EasySpider官网地址:
https://github.com/NaiboWang/EasySpider

Easy Spider是一个基于Python的轻量级爬虫框架,它简化了网络爬虫的编写过程。下面是一个简单的教程,教你如何使用Easy Spider爬取豆瓣电影Top 250的信息: **步骤1:安装Easy Spider** 首先,你需要安装`easy_spider`库,如果还没有安装,可以在命令行输入: ``` pip install easy-spider ``` **步骤2:创建项目文件夹** 创建一个新的文件夹,例如`douban_movie_scraper`,并进入该目录。 **步骤3:配置settings.py** 在项目的根目录下创建一个名为`settings.py`的文件,设置基本的爬虫信息,如start_urls(初始请求的URL): ```python # settings.py from easy_spider.utils import Settings class Config(Settings): USER_AGENT = "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3" BASE_URL = 'https://movie.douban.com/top250' # 开始爬取的页面 START_URLS = ['https://movie.douban.com/top250'] # 其他设置项... ``` **步骤4:编写爬虫规则** 创建一个名为`spiders/douban_movies.py`的文件,定义爬虫规则,这里可以使用`SelectorSpider`类: ```python # douban_movies.py import scrapy from easy_spider.spiders import SelectorSpider from douban_movies.items import DoubanMovieItem class DoubanMoviesSpider(SelectorSpider): name = 'douban_movies' start_url = 'https://movie.douban.com/top250' def parse(self, response): item = DoubanMovieItem() for movie in response.css('.hd'): title = movie.css('span.title a::text').get() rating = movie.css('.rating_num::text').get() link = movie.css('a::attr(href)').get() item['title'] = title item['rating'] = rating item['link'] = link yield item next_page = response.css('.next>a::attr(href)').get() if next_page is not None: yield response.follow(next_page, self.parse) ``` **步骤5:运行爬虫** 最后,在命令行执行: ``` easy start douban_movies ``` 这将开始爬取豆瓣电影Top 250的电影标题、评分和链接。爬取完成后,数据会被保存到指定的位置(默认为`data.json`)。 **相关问题--:** 1. Easy Spider支持哪些类型的爬虫? 2. 如何处理响应中的分页? 3. 如果遇到需要登录才能访问的页面,Easy Spider该如何处理?
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

iHero

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值