python 获取弹窗信息_用python,获取妹子内衣信息?

57fa68e8baa0893e76c1f5e1d5d536a6.png

警告:本教程仅用作学习交流,请勿用作商业盈利,违者后果自负!如本文有侵犯任何组织集团公司的隐私或利益,请告知联系删除!!!
声明:这是一篇超级严肃的技术文,超!级!严!肃!请本着学习交流的态度阅读,谢谢!

01 分析网页

进入到网易严选官网,搜索“文胸”后,先随便点进一个商品。

9b51cb7b0bfea382dc8b6525182663bb.png

在商品页面,打开 Chrome 的控制台,切换至 Network 页,再把商品页面切换到评价标签下,选择一个评论文字,如“薄款、穿着舒适、满意”,在 Network 中搜索。

442aceb2799af70f645a715eaa5bb94f.png

可以发现,评论文字是通过 listByItemByTag.json 传递过来的,点击进入该请求,并拷贝出该请求的 URL:

https://you.163.com/xhr/comment/listByItemByTag.json?csrf_token=060f4782bf9fda38128cfaeafb661f8c&__timestamp=1571106038283&itemId=1616018&tag=%E5%85%A8%E9%83%A8&size=20&page=1&orderBy=0&oldItemTag=%E5%85%A8%E9%83%A8&oldItemOrderBy=0&tagChanged=0

deb6d4e7c5ded4491679a6cee05399b3.png

将该 URL 放入 Postman 中,逐个尝试 url query params,最后能够发现,只需保留 itemId 和 page 两个请求参数即可。

7a0eb7ff9a702bbc1baad15564ad5de2.png

请求返回的是一个 JSON 格式的数据,下面就是分析该 JSON 数据了。

不难发现,所有的评论数据都存储在 commentList 中,我们只需保存该数据即可。

下面就是如何获取 itemId 的信息了,这个是产品的 ID,我们回到网易严选首页,继续分析。

02 产品 ID 获取

当我们在搜索框中输入关键字进行搜索的时候,同样能够发现在 Network 中有很多请求,此时可以观察各个请求,通过请求文件的名称(此处需要一些经验,守规矩的程序员都不会乱起名字)。

我们可以定位到搜索时展示搜索结果的请求。

aeb29e41fa1ab1325f454318f13184a3.png

搜索一般都是 search,所以我们就锁定了这个 search.json 的请求。同样把请求 URL 拷贝到 Postman 中,逐个验证传参,最后保留 page 和 keyword 两个参数即可。

6933f83de26a44aa955a0d079a2b728a.png

该请求返回的数据较多,还是需要耐心的分析数据,也能够发现,在 result->data->directly->searcherResult->result 下面的 id 值,即为我们要获取的产品 ID。

以上,我们基本完成了前期的分析工作,下面开始代码的编写。

03 编写代码

获取产品 ID
def search_keyword(keyword):    uri = 'https://you.163.com/xhr/search/search.json'    query = {        "keyword": keyword,        "page": 1    }    try:        res = requests.get(uri, params=query).json()        result = res['data']['directly']['searcherResult']['result']        product_id = []        for r in result:            product_id.append(r['id'])        return product_id    except:        raise

我这里是获取了 page 为 1 的产品 ID,下面就是通过产品 ID

来获取不同产品下的评论信息。

通过前面的分析,我们可以知道,评论信息都是如下形式的。

对这种形式的信息,我们可以很方便地存储进入 MongoDB,然后再慢慢分析数据里的内容。

{                "skuInfo": [                    "颜色:肤色",                    "杯码:75B"                ],                "frontUserName": "1****8",                "frontUserAvatar": "https://yanxuan.nosdn.127.net/f8f20a77db47b8c66c531c14c8b38ee7.jpg",                "content": "质量好,穿着舒服",                "createTime": 1555546727635,                "picList": [                    "https://yanxuan.nosdn.127.net/742f28186d805571e4b3f28faa412941.jpg"                ],                "commentReplyVO": null,                "memberLevel": 4,                "appendCommentVO": null,                "star": 5,                "itemId": 1680205            }

对于 MongoDB,我们既可以自己搭建,也可以使用网上免费的服务。在这里我介绍一个免费的 MongoDB 服务网站:mlab,使用很简单,就不过多介绍使用过程了。

数据库有了,下面就是把数据保存进去了。

def details(product_id):    url = 'https://you.163.com/xhr/comment/listByItemByTag.json'    try:        C_list = []        for i in range(1, 100):            query = {                "itemId": product_id,                "page": i,            }            res = requests.get(url, params=query).json()            if not res['data']['commentList']:                break            print("爬取第 %s 页评论" % i)            commentList = res['data']['commentList']            C_list.append(commentList)            time.sleep(1)            # save to mongoDB            try:                mongo_collection.insert_many(commentList)            except:                continue        return C_list    except:        raise

最后爬取完成之后,总共是七千多条数据,下面就可以根据个人需要做一些分析了。

88bef24714283cc5b50d76ee2e3737a7.png

爬取的数据 MongoDB 链接

conn = MongoClient("mongodb://%s:%s@ds149974.mlab.com:49974/you163" % ('you163', 'you163'))db = conn.you163mongo_collection = db.you163

04 商品评论数据分析

下面就到了激动人心的时刻了,一探妹子偏好!

偏好颜色,先来看看妹子们偏好的颜色

562668079d380f7918c3b0b5beb8f5ca.png

可以看出,黑色是遥遥领先的哦,这里你要做到心中有数!

再通过饼状图来观察下不同颜色的占比情况。

ee907b1ebc37cd340c3e06239523dd1e.png

那么这些颜色中,有你的她喜欢的吗?

尺寸分布

be44848a0ecbfec90ef0778b4fc2db61.png

没有问题,75B 就是大多数妹子的尺寸了。

如果你对这种罩杯尺寸没有研究的话,不要紧,贴心的我给你准备了对照表,拿走不谢。

c39bced091ef04e6f2a4380d32af15ed.png

商品评论

最后我们再来看看妹子们对于商品的评价情况

02a0286400659dbb4db273df3149dfe0.png

就星级评价上来看,大多数都是五星好评,毕竟打着“严选”的名号,质量是必须有保证的。

再来看看在评论区,妹子最喜欢用什么词语来描述呢

35b3b486aa762eef5dc5edff31b7d470.png

舒服、很舒服,非常舒服;满意、很满意,非常满意。

仿佛进入了“夸夸群”,看来妹子们首要看重的就是舒服与否,毕竟是贴身的,质量最重要!

4fa712bc57e83bd76e42d561d07b0bb7.png db038d4c12a12aa130fb1f9878c0a8a7.png 9ab978cb5d347a280c8f7cef1f9d07e6.png 82df223f24bb744f9b20143202b50a7d.png daaa2920983555034ebbb148e44fe8c8.png 743557cdba7f896f0fad2257c8763412.png
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值