一个简单的贴吧爬取

import urllib.request
import urllib.parse
import os
#ba_name = "python"
ba_name=input('吧名')
start_page=int(input('爬取起始页'))
end_page=int(input('请输入结束页码'))
#start_page= 1
#end_page= 2
if not os.path.isdir(ba_name):
	os.mkdir(ba_name)
url = "https://movie.douban.com/j/chart/top_list?type=13&interval_id=100%3A90&action=";
for page in range(start_page,end_page+1):
	data = {
		'kw':ba_name,
		'pn':(page-1)*50
	}
	data = urllib.parse.urlencode(data)
	url_t = url+data;
	headers = {
		'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/76.0.3809.132 Safari/537.36'
	}
	request = urllib.request.Request(url=url_t,headers=headers);
	print("%s页开始下载....." % page)
	response = urllib.request.urlopen(request);
	filename = ba_name+'_'+str(page)+'.html';
	filepath = ba_name+'/'+filename;
	with open(filepath,'wb') as fp:
		fp.write(response.read());
		print("%s页结束下载....." % page)
	print(response.read())

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值