爬取某个微博用户的所有微博内容及照片

这篇博客详细介绍了如何通过Python爬取微博用户的所有微博内容及照片。首先讲解了AJAX的基础,然后展示了在微博Lite版网页中查找并解析数据的步骤。博主通过分析卡片数据结构,找到了文字信息和图片链接的存放位置。最后,提供了爬虫代码实现,包括获取GETINDEX连接、解析响应、下载图片等关键步骤,成功抓取并保存了微博图片。

摘要生成于 C知道 ,由 DeepSeek-R1 满血版支持, 前往体验 >

因为今日头条似乎加入了反爬虫机制,所以ajax爬取今日头条街拍美图这个似乎做不出来了,于是找了微博用户作为替代,感觉两个例子比较相似,然后,个人感觉微博ajax爬取照片比较简单,而且能学到比较多的东西,然后也做出来了,下面是详细的教程:

首先,什么是ajax,ajax是异步的js和xml,具体的作用就是不更新网页的情况下,有新的数据,这个在微博中就非常常见了,我们打开个人主页去刷的时候,网页没有刷新,但是有新的内容更新,这个就是ajax最常见的的了,然后再理解一下,ajax是通过一个连接去找到对应的内容的。

下面,我们去通过微博(这里要注意,只有lite版的网页版微博才能找到ajax的信息,网址是https://m.weibo.cn)的页面进一步理解,以及,找到数据所在的地方,方便后面的爬取:

首先,我们搜索某个用户,并进入他的主页:

 (这样才是进入了某个用户的主页哦)

然后按下F12,看他的代码,打开网络,然后筛选器中,筛选frech/xhr,再按下Ctrl+R:

评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值