python3贴吧_python3爬虫—实现简单获取贴吧信息

from urllib.request import urlopen

from urllib import parse

def loadPage(url, filename):

"""

作用：根据url发送请求，获取服务器响应文件

url: 需要爬取的url地址

filename : 处理的文件名

想要学习Python？Python学习交流群：1004391443满足你的需求，资料都已经上传群文件，可以自行下载！

"""

print ("正在下载 " + filename)

# request = urllib.Request(url, headers = headers)

html = urlopen(url).read().decode("utf-8")

# print(html.read().decode("utf-8"))

print(html)

return html

def writePage(html, filename):

"""

作用：将html内容写入到本地

html：服务器相应文件内容

"""

print ("正在保存 " + filename)

# 文件写入

with open(filename, "w",encoding="utf-8") as f:

f.write(html)

print ("-" * 30)

def tiebaSpider(url, beginPage, endPage):

"""

作用：贴吧爬虫调度器，负责组合处理每个页面的url

url : 贴吧url的前部分

beginPage : 起始页

endPage : 结束页

"""

for page in range(beginPage, endPage + 1):

pn = (page - 1) * 50

filename = "第" + str(page) + "页.html"

fullurl = url + "&pn=" + str(pn)

print (fullurl)

html = loadPage(fullurl, filename)

print ("网站内容：",html)

writePage(html, filename)

print ("谢谢使用")

if __name__ == "__main__":

kw = input("请输入需要爬取的贴吧名:")

beginPage = int(input("请输入起始页："))

endPage = int(input("请输入结束页："))

url = "http://tieba.baidu.com/f?"

key = parse.urlencode({"kw": kw}) #.encode("utf-8")

fullurl = url + key

tiebaSpider(fullurl, beginPage, endPage)

# print(parse.urlencode("关于Python在"))

print("key",key)

print(parse.urlencode({"kw":"除了web开发以外，还有其他吗？"}))

html = urlopen("http://tieba.baidu.com/f?kw=python&pn=100")

print(html.read().decode("utf-8"))