因为我是做汽车行业的,可以用八爪鱼爬虫抓取汽车之家和微博上的汽车文章内容,分析各种电动汽车口碑数据。
之前,我写过很多Python网络爬虫的案例,使用requests、selenium等技术采集数据,这次尝试去采集小米SU7在微博、汽车之家上的舆论数据,分析下小米SU7的口碑到底怎么样,用户关心和吐槽的点有哪些。
但这次我们不用Python爬虫来采集数据,而用一个无代码爬虫工具-八爪鱼,因为我担心采集复杂的数据用Python代码可能太复杂,比较费时间,而八爪鱼工具可以几分钟就能完成设置,爬取相应的数据。
然后,我会用AI工具来分析舆情数据,能得出一些有意思的结论,比如你知道用户对比小米SU7最大的竞品是什么吗?
无代码爬虫工具--八爪鱼
我们知道爬虫涉及到http请求、网页解析、解锁、异步等技术,有各种反爬机制,说实话挺繁琐的。
相比较requests、selenium等代码框架,八爪鱼是一个完全无代码的图形化客户端工具,类似于pandas和excel的区别。
八爪鱼把爬虫用到的所有技术都装进一个黑盒子里,你只需要点点点,就可以完成爬虫的设置,即使对于很复杂的数据采集任务,也能几分钟搞定。
而且八爪鱼集成了RPA自动化流程,类似于微软的Power Automate,你可以设置固定的步骤,它会自动帮你去执行爬虫,从数据采集、清洗到存储,完全自动化。
对于爬虫的安全问题,也不用担心,这个工具是在安全协议内采集数据,会遵守每个网站的robots.txt文件,确保数据采集安全合规。
八爪鱼数据采集使用技巧
下载和登录八爪鱼软件
你可以先登录八爪鱼官网,注册好后,再下载八爪鱼客户端,然后登录使用即可,非常的简单。
注册和下载地址:
https://affiliate.bazhuayu.com/hEvPKU
新建数据采集流程
这次我们想采集微博和汽车之家上关于小米SU7的内容和帖子,需要新建采集任务,输入相应的url,并设置配置信息。
比如说,你想抓取雷布斯关于SU7微博下面的评论,只需要输入网址,然后设置登录信息,并自动识别采集数据,八爪鱼就会自动采集所有评论数据。
使用采集模板
其实还有更加简单的数据采集方法,八爪鱼提供了上百种常用网站采集的模板,比如微博、百度、京东、B站、汽车之家等等,你只需要选择对应模板,直接输入url或者搜索关键词,就可以采集数据。
这些采集模板是八爪鱼专门针对高频采集需求开发的,相当于爬虫“快捷键”,而且这些采集模板还在持续更新,热门网站和热点数据,统统”一键“抓取。
采集微博和汽车之家-小米SU7数据
我们这次采集微博和汽车之家上小米SU7数据,也是用现成的模板,非常快捷方便。
首先,采集汽车之家上关于小米SU7的内容数据,先找到模板,再设置搜索关键词-小米SU7。
可以看到,它会自动采集汽车之家上小米SU7的内容数据,字段包含标题、发布者、时间、内容、网址等等。
采集好后,自动导出到本地,选择excel或其他数据格式。
微博也是一样的设置,我们只需要找到对应的模板,输入搜索关键词-小米SU7,就可以采集帖子内容。
好了,可以看到八爪鱼采集数据非常简单,如果用Python来实现的上述两个爬虫的话,至少得几百行代码,而且还要处理动态页面、登录、反爬等各种麻烦的事,用八爪鱼就显得轻而易举了。
接下来,我们来分析上述两个数据集,看看小米SU7的舆情表现怎么样,为啥能这么火。
小米SU7舆情数据分析
这里先解释下两个数据集的规模,首先汽车之家内容数据集有300条数据,都是通过关键词小米SU7搜索出来的相关文章。
微博帖子数据集有500条数据,也是关于小米SU7的帖子。
舆情分析的思路有四个方面,一是看小米SU7的卖点,二是看小米SU7的槽点,三是看用户最关心的问题和期待,四是看竞品有哪些。
这次分析的工具采用Kimi AI,读取excel数据文件,然后分析结论。
汽车之家-小米SU7舆情分析
「卖点分析」
AI Prompt:请分析这个数据集,这是汽车之家上关于小米SU7的文章,首先你的任务是分析内容列的文本数据,输出提及到的小米SU7最主要的10个卖点,按照词频排序
❞
「槽点分析」
AI Prompt:接下来,你需要分析提及到的小米SU7最主要的3个吐槽点,按照词频顺序
❞
「分析用户最关心的问题和期待」
AI Prompt:接下来,你需要分析提及到的用户对小米SU7最关心的期待和问题,列出3个,按照词频顺序 AI Prompt:你需要提供它们出现的频次数据
❞
「竞品分析」
AI Prompt:接下来,你的任务是输出提到的小米SU7的前3竞品车型,以及入选理由,按照词频排序
❞
微博-小米SU7舆情分析
「卖点和槽点分析」
AI Prompt:请分析这个数据集,这是微博上关于小米SU7的帖子数据,首先你的任务是分析博文内容列的文本数据,输出提及到的小米SU7最主要的5个卖点和5个槽点,按照词频排序,并参考帖子点赞、评论数据权重
❞
「竞品分析」
AI Prompt:接下来,你的任务是输出提到的小米SU7的前3竞品车型,以及入选理由,按照词频排序
总结
采集并分析了小米SU7在汽车之家和微博的舆情数据后,会发现智能驾驶、续航、外观、性能是用户点赞比较多的方面,同时争议比较多的是价格、交付、售后等,竞品层面Model 3无疑是用户纠结对比最多的车型。
熟话说,工欲善其事,必先利其器,八爪鱼爬虫工具抓取数据真的节省了大量代码开发的时间,包括AI工具也能有效地提升数据分析效率,赶紧用起来吧!
使用路径很简单,先登录八爪鱼官网,注册好后,再下载八爪鱼客户端,然后登录使用即可。
注册下载地址: