python 抓取腾讯微博数据并做简单的分析

利用python去读取腾讯微博中某个人的数据,统计和他相关的一些连接,并对每个打印每个连接的数据,本人采用的python版本为3.3.

from html.parser import HTMLParser  
import urllib.request
import re

pattern = re.compile(r'http://t.qq.com/*?')

class MyParser(HTMLParser):
    
    a_txt =False
    total  = 0
    sample_list = []
    def inputSelfAddress(self, name):
        self.sample_list.append(name)
    def __init__(self):
       HTMLParser.__init__(self)        
       
    def handle_starttag(self, tag, attrs):
        if tag=='div': 
           for name,value in attrs:
               if (name == 'class')and(value == 'msgCnt'):
                     self.a_txt=True
        if tag=='a':
            for name, value in attrs:
                if(name == 'href'):
                     match = pattern.match(value)
                     if(match):
                         if value in  self.sample_list:
                             return
                         else:
                            self.total=self.total+1
                            self.sample_list.append(value)
            
    def handle_data(self, data):
         if self.a_txt:  
            print (data) 
            self.a_txt=False 
headers = ('User-Agent','Mozilla/5.0 (Windows NT 6.1) AppleWebKit/537.11 (KHTML, like Gecko) Chrome/23.0.1271.64 Safari/537.11')
opener = urllib.request.build_opener()

opener.addheaders = [headers]

strAddress = "http://t.qq.com/xiaoRainie"
fp =opener.open(strAddress)

mybytes = fp.read()
mystr = mybytes.decode("utf8")
fp.close()
myparser = MyParser()
myparser.inputSelfAddress(strAddress)
myparser.feed(mystr) 

print("总数:", myparser.total-11)
for i in range(int(myparser.total), 1, -1):
    print(myparser.sample_list[i-1])
print("结束")
for i in range(int(myparser.total), 1, -1):
    fp =opener.open(myparser.sample_list[i-1])
    myparser.inputSelfAddress(myparser.sample_list[i-1])
    mybytes = fp.read()
    mystr = mybytes.decode("utf8")
    fp.close()
    myparser = MyParser()  
    myparser.feed(mystr)

    

这里简单使用了python 的html 分析模块,和url 处理模块!

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值