【爬虫】Laza大商品采集维度数据分析_lazada爬虫难度

        'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/98.0.4758.82 Safari/537.36',
    }

def get_ip(self):
    client = redis.Redis(ip, db=5, charset='utf8')
    proxy = client.randomkey()
    proxy = proxy.decode()
    proxies = {"http": proxy, "https": proxy}
    return proxies

def send_request(self, url):
    i = 0
    while i<5:
        try:
            response = requests.get(url, headers=self.headers, timeout=3, proxies=self.get_ip())
            if response.json().get('mods'):
                return response
            i += 1
            print('重试请求!')
        except Exception as e:
            print(f'{e}, 重试请求!')
            i += 1

def gpage(self, page):
    response = self.send_request(f'https://www.lazada.sg/shop-mobiles/?ajax=true&page={page}')
    # pageData = re.findall('pageData = ({.+});', response.text)[0]
    res = response.json()
    items = []
    for item in res['mods']['listItems']:
        item["_id"] = item['nid']
        items.append(item)

    self.write_db(items)

def write_db(self,items):
    try:
        db.insert_many(items,ordered=False)
    except:
        print('重复插入!')

if name == ‘main’:
lzd = Lazada()
for page in range(1, 100):
print(page)
lzd.gpage(page)

### 采集数据展示


![在这里插入图片描述](https://img-blog.csdnimg.cn/2764af67642b4a42a02f784d2a7e3db2.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA54ixcHl0aG9u55qE546L5LiJ6YeR,size_20,color_FFFFFF,t_70,g_se,x_16)


### 数据分析


##### 价格区间分析


新加坡地区手机卖家价格分布图展示  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/0e9c533e55604eb395ffcbebb516ef8d.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA54ixcHl0aG9u55qE546L5LiJ6YeR,size_8,color_FFFFFF,t_70,g_se,x_16)  
 由统计图可以看出$200-$500之间的手机商品最多，$2300-$2500之间的手机商品最少。


##### 评价数量排行


评价数量top20的数据展示  
 ![在这里插入图片描述](https://img-blog.csdnimg.cn/eb7dd1ebd8d54a3f8fedf3aec26b4a26.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA54ixcHl0aG9u55qE546L5LiJ6YeR,size_8,color_FFFFFF,t_70,g_se,x_16)  
 大部分手机商品的评价在150-250条之间。


##### 发货地区占比


![在这里插入图片描述](https://img-blog.csdnimg.cn/22ee7a060f954adc9734c41cea9b6ac5.png?x-oss-process=image/watermark,type_d3F5LXplbmhlaQ,shadow_50,text_Q1NETiBA54ixcHl0aG9u55qE546L5LiJ6YeR,size_7,color_FFFFFF,t_70,g_se,x_16)  
 绝大多数商品是由新加坡直接发出，很少一部分商品是中国和中国香港发出。


##### 手机品牌占比


![](https://img-blog.csdnimg.cn/e5a12df395604f94974b81977b19cee7.png)  
 从饼图可以看出在新加坡地区最热销的品牌是三星，国产手机品牌也分到了半壁江山。为中国制造点赞。


### 结语



做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。



别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。

我先来介绍一下这些东西怎么用，文末抱走。

* * *



**（1）Python所有方向的学习路线（新版）**

这是我花了几天的时间去把Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。



最近我才对这些路线做了一下新的更新，知识体系更全面了。



![在这里插入图片描述](https://img-blog.csdnimg.cn/8fc093dcfa1f476694c574db1242c05b.png)



**（2）Python学习视频**



包含了Python入门、爬虫、数据分析和web开发的学习视频，总共100多个，虽然没有那么全面，但是对于入门来说是没问题的，学完这些之后，你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。



![在这里插入图片描述](https://img-blog.csdnimg.cn/d66e3ad5592f4cdcb197de0dc0438ec5.png#pic_center)



**（3）100多个练手项目**

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了，只是里面的项目比较多，水平也是参差不齐，大家可以挑自己能做的项目去练练。



![在这里插入图片描述](https://img-blog.csdnimg.cn/f5aeb4050ab547cf90b1a028d1aacb1d.png#pic_center)



**（4）200多本电子书**  

  

这些年我也收藏了很多电子书，大概200多本，有时候带实体书不方便的话，我就会去打开电子书看看，书籍可不一定比视频教程差，尤其是权威的技术书籍。



基本上主流的和经典的都有，这里我就不放图了，版权问题，个人看看是没有问题的。



**（5）Python知识点汇总**

知识点汇总有点像学习路线，但与学习路线不同的点就在于，知识点汇总更为细致，里面包含了对具体知识点的简单说明，而我们的学习路线则更为抽象和简单，只是为了方便大家只是某个领域你应该学习哪些技术栈。



![在这里插入图片描述](https://img-blog.csdnimg.cn/c741a91b05a542ba9dc8abf2f2f4b1af.png)



**（6）其他资料**



还有其他的一些东西，比如说我自己出的Python入门图文类教程，没有电脑的时候用手机也可以学习知识，学会了理论之后再去敲代码实践验证，还有Python中文版的库资料、MySQL和HTML标签大全等等，这些都是可以送给粉丝们的东西。



![在这里插入图片描述](https://img-blog.csdnimg.cn/9fa77af248b84885a6ec779b2ead064d.png)

**这些都不是什么非常值钱的东西，但对于没有资源或者资源不是很好的学习者来说确实很不错，你要是用得到的话都可以直接抱走，关注过我的人都知道，这些都是可以拿到的。**




**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化学习资料的朋友，可以戳这里无偿获取](https://bbs.csdn.net/topics/618317507)**

**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**