一、分析目标
数据分析之前我们需要清楚的知道自己想要分析什么东西,也就是先搞清楚我们的目标。在公司可能是公司财报、用户增量变化、产品受欢迎程度、一些报表等等。
那我们今天的目标有哪些呢?我们来看看:
-
分析避孕套标题高频关键字
-
分析避孕套标题高频关键字 与 商品数量关系
-
分析避孕套标题高频关键字 与 平均销量关系
-
分析避孕套标题高频关键字 与 平均售价关系
-
分析避孕套商品价格区间分布关系
-
分析避孕套商品销量区间分布关系
-
分析避孕套商品价格区间 与 平均销量关系
-
分析避孕套商家数量全国分布关系
-
分析避孕套商家全国平均销量关系
注意: 以上数据分析全部基于上次爬取的2500款淘宝商品(默认排序),并不代表淘宝所有避孕套商品!
二、分析实现
有了明确的目标之后,我们就要开始技术选型。
首先数据处理的库这个很好确定,基本就是
numpy和
pandas这两个必备的库,所以大家首先确保已经安装了这两个库。
然后数据可视化库呢?这么多可视化库该怎么选?如果你不知道怎么选,那猪哥给你推荐:
pyecharts 这个由中国人开发的可视化库,想要什么类型的图在下面文档里面找就行。
中文文档:https://pyecharts.org/#/zh-cn/intro
源码地址:https://github.com/pyecharts/pyecharts
最后技术选型完毕,我们就可以开始正式的敲代码分析了。(分析的标题将和上面的分析目标一一对应)
0.数据清洗
在我们数据分析之前,我们需要对数据进行清洗。因为从淘宝爬取下来的数据并不是标准的数据,比如:商品销量,爬取下来的数据是:
2.5万+人付款,我们需要将它转为:
25000(整型),这样才方面后面的处理!
我们先来看看从淘宝爬取的原始数据,看看那些数据需要清洗
根据使用库的经验猪哥认为有两列数据需要清洗:1、销量转成整型 2、地区转成只包含省份,具体如何清洗我们直接看代码吧!
大家可以看到最后猪哥又从新生成了一个excel文件,目的就是不去污染原始数据, 因为原始数据非常重要,所以我们在以后的数据处理中要尽量保存好原始数据,多备份几个都不多余!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/e9baf007a027504d701a557e2384c0fb.jpeg)
根据使用库的经验猪哥认为有两列数据需要清洗:1、销量转成整型 2、地区转成只包含省份,具体如何清洗我们直接看代码吧!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/947c0380dd31026d544c3210b05829c8.jpeg)
大家可以看到最后猪哥又从新生成了一个excel文件,目的就是不去污染原始数据, 因为原始数据非常重要,所以我们在以后的数据处理中要尽量保存好原始数据,多备份几个都不多余!
1.分析避孕套标题高频关键字
数据清洗完毕之后,我们就可以开始分析了。
分析标题高频关键字这都是老生常谈的一个流程,也就是使用jieba分词,然后统计词频,最后生成一个词云图,我相信经常看猪哥公众号的同学看都看腻了吧,这种小功能闭着眼睛都会了。
十几行代码就搞定了,我们来看看效果图吧
分析结论:
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/f02bc63102303e2d73be4d573845e742.jpeg)
十几行代码就搞定了,我们来看看效果图吧
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/7f772aff8e3348e02cf2443d42afe1de.png)
分析结论:
-
从整体看商家取名偏爱情趣二字
-
从材质看尿酸的最多
-
从功能看颗粒、螺纹的较多
ps:别问猪哥最中意哪个词,问就是
延时。
2.分析避孕套标题高频关键字 与 商品数量关系
上面我们只看到大概哪些功能受欢迎,如果需要看具体的数据怎么办呢?
我们就来统计一下包含这些高频关键词的商品数据数量吧,代码讲解在图片下方,下同!
我们取最高频的20个关键字,然后遍历所有数据的标题中是否包含其中关键字,如果包含则该关键字的value就+1。来看看生成的柱状图效果吧!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/10be860cc6ee1d6028e91bc6e4d69ea2.jpeg)
我们取最高频的20个关键字,然后遍历所有数据的标题中是否包含其中关键字,如果包含则该关键字的value就+1。来看看生成的柱状图效果吧!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/82552238e2171e8e2334d712cb617d3b.jpeg)
分析结论:
-
包含情趣二字的商品有1150款,占到总数(2500款+)的46%。
-
前三甲是:情趣、尿酸、颗粒
ps:猪哥有个疑问想请教各位老司机:这个
免洗 是咋玩的?
3.分析避孕套标题高频关键字 与 平均销量关系
这个分析有意思了,就相当于用户更喜欢哪种功能或者材质的套套。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/0ea9918208e7f791d1511b0de8a3aaf5.jpeg)
![640?wx_fmt=jpeg](https://i-blog.csdnimg.cn/blog_migrate/b9c8a96c4d21d3e7e40d94a5663705f8.jpeg)
高频关键字与平均销量分析数据的实现方法是,同样遍历所有数据的标题,如果包含某个关键字,则把该项数据的销量放在关键字的value中(一个list),统计完后再对每个关键字的value进行求平均值,最后再根据平均销量排序。来看看效果吧!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/3e961b610b701d8743a337ecdf683405.jpeg)
分析结论:
-
螺纹功能平均销量最高,大家的最爱
-
功能平均销量前三分别是:螺纹、颗粒、狼牙
-
小号竟然上榜,哈哈
ps:有很多同学问:为什么不是超薄?超薄自己是爽了,可女朋友呢?
4.分析避孕套标题高频关键字 与 平均售价关系
分析完大家喜欢的功能,再来分析下这些功能的价格如何?哪些功能的避孕套比较贵呢?
高频关键字 与 平均售价关系分析原理与上面是相似的,使用的同一个方法,只不过是将原来的销量换成价格,来看看效果图吧!
分析结论:
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/88d72e64dae0f3970ec31db7808eef76.jpeg)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/9bbe3c0a2d10c0bd7d5ac323e606a707.jpeg)
高频关键字 与 平均售价关系分析原理与上面是相似的,使用的同一个方法,只不过是将原来的销量换成价格,来看看效果图吧!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/45e458913d02506bddc92ed55fdbd268.jpeg)
分析结论:
-
可以看到前排几个基本都是关于材质的
-
凝胶、透明质、免洗这三项均价最贵,超过100大洋
ps:类似凝胶、透明质、免洗的哪位老司机用过,和一般的有啥区别?
5.分析避孕套商品价格区间分布关系
商品的标题和功能差不多分析完了,我们来分析下价格吧!
猪哥人为的对价格进行了划分,一共分为:’0-20’, ‘21-40’, ‘41-60’, ‘61-80’, ‘81-100’, ‘101-120’, ‘121-150’, ‘151-200’, ‘200以上’这9个区间,然后对数据切割、统计、排序,最后分别生成柱状图和饼图。
分析结论:
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/f4e723fc97a6b2a8966735f350447562.jpeg)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/870097f1cf30dca4bc3b3c559929fa5c.jpeg)
猪哥人为的对价格进行了划分,一共分为:’0-20’, ‘21-40’, ‘41-60’, ‘61-80’, ‘81-100’, ‘101-120’, ‘121-150’, ‘151-200’, ‘200以上’这9个区间,然后对数据切割、统计、排序,最后分别生成柱状图和饼图。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/23e9f59a9bdf7ec8367e68973e3ce7fd.png)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/e2217de9257732a75afff8fdc0a7ee0f.jpeg)
分析结论:
-
价格区间在21-40的商品最多为778款,大约占比31%。
-
价格在一百以内与超过一百的商品比大概为7:1
ps:没想到还有这么多超过100块的,我想问下200块价格的套套是啥感觉?
6.分析避孕套商品销量区间分布关系
分析完价格当然是分析销量区间了
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/af08ff006ee001f5294f3b42894454a1.jpeg)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/870097f1cf30dca4bc3b3c559929fa5c.jpeg)
销量区间分布分析实现原理:认为为销量分区,大概分为:’一千以内’, ‘一千到五千’, ‘五千到一万’, ‘一万到五万’, ‘五万到十万’, ‘十万以上’,这六个区间,然后同上方法进行统计、排序最后可视化。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/b367800c71b5afd7253933ee7e201bbc.png)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/21fe78a6ef04e31a609eb1da8580cd25.png)
分析结论:
-
销量在1000以内的最多,大概占比90%
-
销量过万的一共也才10款,说明爆款真的很少
-
有一款套套销量竟然超过10万
ps:想知道那款超过10万销量的避孕套商品信息吗?关注猪哥微信公众号「裸睡的猪」回复:爆款套套,即可查看!
7.分析避孕套商品价格区间 与 平均销量关系
假如你是一个避孕套卖家,新推出一款避孕套,你想知道价格定为多少销量才会比较高呢?
这时候我们就可以通过分析价格与商品的销量关系,用实际的数据来定价,这也正是数据分析的价值之一。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/79c52b11df90c2258421e265843430e1.jpeg)
商品价格区间 与 平均销量关系分析实现原理是:使用pandas自动分区将价格划分为12个分区,然后对销量数据分组、求平均值,来看看可视化之后的效果。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/0a3787522d92688e65a9b9a6a6c5e450.jpeg)
分析结论:
-
定价在31.9-39这个区间平均销量最高,为893
-
定价在10元以内的销量竟然高居第二
ps:谁用过10以内一盒的套套,出来走走
8.分析避孕套商家数量全国分布关系
标题、价格、销量都分析过了,最后我们还分析下商家位置的数据。
分析的目标是统计全国各省避孕套商家数量,然后做成热力图和柱状图。
统计商家数量还是比较简单,因为我们之前在数据清洗的时候已经只保留了省份数据,所以直接value_counts()就可以得到想要的数据,看看效果如何!
分析结论:
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/ee86d522c8b79574ce0c8654d2c9917a.jpeg)
统计商家数量还是比较简单,因为我们之前在数据清洗的时候已经只保留了省份数据,所以直接value_counts()就可以得到想要的数据,看看效果如何!
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/70451069c3870c476a695e39a4cb2720.jpeg)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/bbd98fa54c6bda938d5ca68dbeb38842.jpeg)
分析结论:
-
避孕套商家前三甲:广东、上海、浙江
ps:贵州四周都有卖套套的,为何就它没有?难道和地理有关?
9.分析避孕套商家全国平均销量关系
分析完商家数后,我们来看看各省的平均销量吧。
商家全国平均销量关系分析实现原理:我们新创建一个透视表并对销量求平均值,然后再排序,最后生成热力图和柱状图。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/7f33e03a77a3f3aae4b800a9cfd56ef3.jpeg)
商家全国平均销量关系分析实现原理:我们新创建一个透视表并对销量求平均值,然后再排序,最后生成热力图和柱状图。
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/b6a6b235ea3e9840114fe1cbaf365ca5.jpeg)
![640?wx_fmt=png](https://i-blog.csdnimg.cn/blog_migrate/0e6f95a9b13f9057378c52303b16608b.jpeg)
分析结论:
-
出乎意料的是山西39个商家平均销量竟然是第一为1535。
ps:为何山西平均销量是第一?原因是啥真想不通
三、总结
通过上面的数据分析,我们得到了一些有趣的结论:
-
用户偏爱螺纹、颗粒、狼牙等功能
-
凝胶、透明质、免洗这三项均价最贵,超过100大洋
-
价格区间在21-40的商品最多为778款,大约占比31%
-
销量在1000以内的最多,大概占比90%
-
定价在31.9-39这个区间平均销量最高,为893
-
避孕套商家数量前三甲:广东、上海、浙江
-
山西省平均销量最高为山西
通过上述分析结果,如果猪哥作为一个避孕套商家,想要推出一款产品,设置标题带螺纹、颗粒、狼牙,价格设置在31.9-39元,这样可能会更畅销一些。
数据分析作为一把利刃,能让你看见别人看不见的事物,如果使用得当完全可以作为你创业的一个重要支点!
最后猪哥再送你一句忠告:想学数据分析,一定要学好pandas!
源码:
https://github.com/pig6/taobao_spider