【Python_爬虫】【微博项目】爬取微博单个用户的图片以及博文内容

本文介绍如何使用Python爬虫抓取微博单个用户的图片及博文内容。通过切换到手机端界面,分析XHR网络请求,获取真实URL。程序详细步骤包括定位Ajax请求,解析响应数据,并将内容和图片保存到本地。注意,代码仅供学习交流,非法使用可能引发纠纷,使用者需自行承担后果。
摘要由CSDN通过智能技术生成

为了提高大家阅读兴趣,先看下效果图,左边是博文内容,右边是博文图片

该程序主要针对ajax网页编写,在ajax中找到真实的对应网址方式如下:网页先切换至手机端界面→点击Network→点击XHR→下拉微博内容会出现新的Name信息→分析请求头的URL

最后送上注释源码

import json
import os
import math
import  requests

#去标签的包
from w3lib.html import remove_tags


class Pa_WeiBo():
    #获取ajax网页url(作为接口只需修改该参数)
    base_url ='https://m.weibo.cn/api/container/getIndex?uid=2272339530&luicode=10000011&lfid=100103type%3D3%26q%3D%E6%B3%89%E5%B7%9E%E7%BE%8E%E9%A3%9F%26t%3D0&containerid=107603
  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,我可以帮你解决这个问题。你可以使用 Python 的第三方库 `requests` 和 `beautifulsoup4` 来爬取微博某个话题的内容数据。 首先,你需要了解微博的 URL 格式。以微博话题“Python爬虫”为例,其 URL 为:https://s.weibo.com/weibo?q=%23Python%E7%88%AC%E8%99%AB%23&Refer=top。其中,“%23”是“#”的 URL 编码,“q=”后面跟的是话题的关键词。 接下来,你可以使用 `requests` 库向该 URL 发送 GET 请求,并将响应结果的 HTML 代码解析为 `beautifulsoup4` 对象。例如: ```python import requests from bs4 import BeautifulSoup url = 'https://s.weibo.com/weibo?q=%23Python%E7%88%AC%E8%99%AB%23&Refer=top' headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/58.0.3029.110 Safari/537.3'} response = requests.get(url, headers=headers) soup = BeautifulSoup(response.text, 'html.parser') ``` 然后,你可以使用 `beautifulsoup4` 的查找方法来提取微博内容数据。例如,你可以使用 `find_all` 方法找到所有的微博 div 元素,再从中提取微博的文本内容和发布时间。具体代码如下: ```python weibo_list = soup.find_all('div', class_='content') # 找到所有微博 div 元素 for weibo in weibo_list: text = weibo.find('p', class_='txt').get_text() # 提取微博文本内容 time = weibo.find('p', class_='from').find('a').get_text() # 提取微博发布时间 print(text, time) ``` 以上就是爬取微博话题“Python爬虫内容数据的基本步骤。当然,实际应用中还需要注意反爬虫策略、数据清洗和存储等问题。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值