python爬微博数据合法吗_爬取新浪微博数据(python)

本文介绍了一个Python脚本,用于爬取特定微博用户的个人信息和所有微博内容,并将其存储到文本文件和MongoDB数据库中。通过设置匿名代理,无需使用微博API。文章提到了在Mac环境下可能遇到的Python版本、编码和证书安装问题及其解决方案。
摘要由CSDN通过智能技术生成

具体要感谢大神贡献的代码,大神链接

代码我做了些修改满足我的需求,以下为代码:

# -*- coding: utf-8 -*-

import urllib.request

import json

from pymongo import MongoClient

id = '1761179351'

MONGO_HOST = 'mongodb://localhost:27017/weibo_database' # mongodb host path

proxy_addr = "183.129.207.82:11031"

def use_proxy(url, proxy_addr):

req = urllib.request.Request(url)

req.add_header(

"User-Agent", "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/49.0.2623.221 Safari/537.36 SE 2.X MetaSr 1.0")

proxy = urllib.request.ProxyHandler({'http': proxy_addr})

opener = urllib.request.build_opener(proxy, urllib.request.HTTPHandler)

urllib.request.install_opener(opener)

data = urllib.request.urlopen(req).read().decode('utf-8', 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值