推特开发者 elevated academic 学术【推特开发者文档V2系列5】——tweepy4 自动翻页爬取推文


关于推特开发者账号 elevated academic 请看此贴:

推特开发者账号申请权限

搜索微信公众号 twitterDeveloper 获得帮助


tweepy怎么用看这里:
使用tweepy4 搜索历史推文

文档:https://docs.tweepy.org/en/stable/client.html#tweets

根据之前的文章,有的小伙伴要问了,如果我要根据关键字爬取所有满足条件的推文,怎么让程序一直运行下去,把次数往大了写么?

其实tweepy提供了一个变量: next_token,只需要在下一次请求中加上这个变量,程序就会持续不断的运行。

如何使用这个变量呢,比如加到这里:搜索关键字Trump并且指定日期的历史推文

代码如下:

import tweepy
import os
import time

bear_token = 'XXXXX'
client = tweepy.Client(bear_token)
tweets_fields_list = ['created_at','id','text']

first_data = client.search_all_tweets(query="Trump -is:retweet",
                                 tweet_fields=tweets_fields_list,
                                 end_time='2018-10-02T15:00:00Z',
                                 start_time = "2018-09-02T15:00:00Z",
                                 max_results=10)  #max_results最大可以设为500,为了方便调试这里设置成10

print(first_data.meta["next_token"])
first_token = first_data.meta["next_token"]  #获取next_token变量,以便传入到循环中

time.sleep(9) #设置sleep防止报too many错误
for response in tweepy.Paginator(client.search_all_tweets, query="Trump -is:retweet",
                                 tweet_fields=tweets_fields_list,
                                 end_time='2018-10-02T15:00:00Z',
                                 start_time = "2018-09-02T15:00:00Z",
                                 max_results=10, next_token = first_token):
    #print(response.includes)
    for tweet in response.data:
        print(tweet.id,tweet.created_at,tweet.text)
    first_token = response.meta["next_token"]  #更新next_token变量
    time.sleep(9) #设置sleep防止报too many错误


然后就可以看到程序在不断的运行了
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值