网络爬虫——爬百度贴吧

功能：输入话题的编号（一般在百度贴吧里面找）然后爬取楼主的所有发言的文字部分。

说明：中文编码和保存文件较上一篇又有新的方式，特此留存。

#coding: utf-8  
import string
import urllib2
import re

class HTML_Tool:#作用就是将html文件里的一些标签去掉，只保留文字部分
	BgnCharToNoneRex = re.compile("(\t|\n| |<a.*?>|<img.*?>)")
	EndCharToNoneRex = re.compile("<.*?>")
	BgnPartRex = re.compile("<p.*?>")
	CharToNewLineRex = re.compile("<br/>|</p>|<tr>|<div>|</div>")
	CharToNextTabRex = re.compile("<td>")
	
	def Replace_Char(self,x):
		x=self.BgnCharToNoneRex.sub("",x)
		x=self.BgnPartRex.sub("\n   ",x)
		x=self.CharToNewLineRex.sub("\n",x)
		x=self.CharToNextTabRex.sub("\t",x)
		x=self.EndCharToNoneRex.sub("",x)
		return x
		
class Baidu_Spider:
	def __init__(self,url):
		self.myUrl=url+'?see_lz=1'
		self.datas = []
		self.myTool = HTML_Tool()
		print u'已经启动百度贴吧爬虫'
	def baidu_tieba(self):
		#在做编码转换时，通常需要以unicode作为中间编码
		#即先将其他编码的字符串解码（decode）成unicode，再从unicode编码（encode）成另一种编码
		myPage = urllib2.urlopen(self.myUrl).read().decode("utf-8")#decode的作用是将其他编码的字符串转换成unicode编码
		endPage = self.page_counter(myPage)
		title = self.find_title(myPage)
		print u'文章名称: '+title
		self.save_data(self.myUrl,title,endPage)
	
	def page_counter(self,myPage):
		myMatch = re.search(r'class="red">(\d+?)</span>',myPage,re.S)
		if myMatch:
			endPage = int(myMatch.group(1))
			print u'爬虫报告：发现楼主共有%d页的原创内容' % endPage
		else:
			endPage = 0
			print u'爬虫报告： 无法计算楼主发布的内容有多少页！'
		return endPage
	def find_title(self,myPage):
		myMatch = re.search(r'<h1.*?>(.*?)</h1>',myPage,re.S)
		title = u'暂无标题'
		if myMatch:
			title = myMatch.group(1)
		else: 
			print u'爬虫报告：无法加载文章标题！'
		title = title.replace('\\','').replace('/','').replace(':','').replace('?','').replace('>','').replace('<','').replace("|",'')
		return title
	def save_data(self,url,title,endPage):
		self.get_data(url,endPage)
		f = open(title+'.txt','w+')
		f.writelines(self.datas)
		f.close()
		print u'爬虫报告：文件以及下载到本地并打包成txt文件'
		print u'加载完成，按任意键退出...'
		raw_input();
		
	def get_data(self,url,endPage):
		url = url + '&pn='
		for i in range(1,endPage+1):
			print u'爬虫报告：爬虫%d号正在加载中...' % i
			myPage = urllib2.urlopen(url + str(i)).read()
			self.deal_data(myPage.decode('utf-8'))
	def deal_data(self,myPage):
		myItems = re.findall('id="post_content.*?>(.*?)</div>',myPage,re.S)
		for item in myItems:
			data = self.myTool.Replace_Char(item.replace("\n","").encode('utf-8'))
			self.datas.append(data+'\n')
			#self.datas.append(item.replace("\n","").encode('utf-8')+'\n')
print u'请输入贴吧地址最后的字符串： '
bdurl = 'http://tieba.baidu.com/p/' + str(raw_input(u'htttp://tieba.baidu.com/p/'))

mySpider = Baidu_Spider(bdurl)
mySpider.baidu_tieba()

后记： 学了一周多的爬虫，把《python学习手册》大体翻了一遍，感觉对Python语言的基础了解一些了。至于爬虫程序，参照大神的博客，依样画葫芦也算是实现了两个小爬虫。时间不允许了，我也不准备深究了，以后用到再拓展吧！