使用第三方软件爬取微博关键字

使用软件(集搜客

  • 这是一个非常友好的爬虫软件
  • 使用方法
  1. 下载后页面如图所示(需要进行账户绑定)
    主要就是这个界面
  2. 进入微博采集工具箱,官网里面直观看到
    在这里插入图片描述
  3. 按网页提示进行操作,这样你会跳到爬虫界面
    在这里插入图片描述
  • 建议每半个月为时间戳爬取一次
  • 时间可以随意设计,但是注意一点,你的网一定要连续,不能断,然后你的电脑会一直在跑,结束后,你进行打包数据下载,不过数据是xlsx的类型,你可以通过python代码进行解析

使用python代码进行解决

  • 目的:将一些人的博文单元格另存为txt文件,有的单元格是空的,我们可以替换这这些单元格,比如,向空单元格填入无有效数据等,这样有一个缺点就是数据量有点大,导致复制粘贴等效率低下
from openpyxl import load_workbook
#打开相应文档
inwb = load_workbook("06.xlsx")
#选择相应的表名
sheet = inwb.get_sheet_by_name('sheet1')
list_sheet_column_C = []
# 将数据存储
for i in sheet["B"]:
    list_sheet_column_C.append(i.value)
    print(i.value)
    print(i)
print(len(list_sheet_column_C))
a = 1
#将数据进行写入txt文档
for i in range(25460):
    c = a + 10434
    if list_sheet_column_C[c] == None:
        list_sheet_column_C[c] = "无有效内容"
# txt文档是没有办法写入none,并且这种的数据一般是视频或者全图片,我们选择直接让它无有效内容
    b = "/home/lsgo16/PycharmProjects/untitled1/2012-2013year/{0}.txt".format(a)
    with open(b,"w",encoding="utf-8") as f:
            # if list_sheet_column_C[a] == :
            #     list_sheet_column_C[a] == ""
        f.write(list_sheet_column_C[c])
        print("{0}保存成功".format(a))
        a = a + 1
  • 整体框架
    在这里插入图片描述
    在这里插入图片描述
  • 3
    点赞
  • 18
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值