微博用户信息源代码爬取_【爬虫项目】爬取微博话题下的用户数据

爬虫目标

通过微博话题获取发帖的信息与用户基本信息,数据可用于该话题的用户分析。

爬取字段:账号id号、昵称、关注数、粉丝数、微博数、个性签名、账号类型、等级、简介、使用设备

所用到模块:requests、lxml、re

c42815bf28883193b45a06e59ebded4b.png

说明:无登录爬取微博用户数据,实现 自动获取Cookie和Cookie失效自动更新,还有其他技巧,自己看。

爬虫结构

class WeiBoSpider():    def __init__(self):        # 起始地址        self.url = "https://s.weibo.com/weibo?q=%23%E8%94%A1%E5%BE%90%E5%9D%A4%E7%82%B9%E8%AF%84%23&Refer=top"        # cookie         self.cookie = self.get_cookie()    # 获取所有数据    def get_data(self):        pass    # 通过 id 获取用户信息    def get_user_data(self,user_id):        pass    # 获取 & 更新 Cookie    def get_cookie(self): 
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值