关闭

[Python爬虫]爬取贴吧图片

标签: Python爬虫
570人阅读 评论(0) 收藏 举报
分类:

[Python爬虫]爬取贴吧图片

代码有瑕疵就是必须在目的目录中创建文件夹,确认了文件夹创建之后再运行。

Python爬虫的使用其实就是熟悉运用urllib,urllib2,re模块。

首先是模拟浏览器的环境 ,通过url定位获取网页的源码,分析html源码找到自己要提取的信息的规律,最后通过re正则表达式匹配\查找获取相应的信息。


爬虫的简单程序:获取贴吧的图片并下载到本地保存

import urllib2
import urllib
import re
import os

class TiebaImg(object):

	def __init__(self):
		self.number = 0
		# os.mkdir(self.Path)
		self.Path = 'f:\Img\kenan_test1'
		self.siteUrl = 'http://tieba.baidu.com/p/4570934032?pn='
		self.Re = r'<img class=".*?" src="(.*?)".*?>'

	def getPattern(self,page):
		url = self.siteUrl + str(page)
		RE = self.Re
		pattern = re.compile(RE)
		response = urllib2.urlopen(url).read()
		items = re.findall(pattern,response)
		return items

	def getImg(self,num):
		Item = self.getPattern(num)
		
		for item in Item:
			splitPath = item.split('.')
			fTail = splitPath.pop()
			if len(fTail) > 3:
				fTail = "jpg"
			filename = self.Path + "\\"  + "Image" + str(self.number) + "." + fTail
			u = urllib2.urlopen(item)
			data = u.read()
			File = open(filename,'wb')
			File.write(data)
			self.number += 1
		File.close()


tieba = TiebaImg()
tieba.getImg(1)


0
0

猜你在找
【直播】计算机视觉原理及实战——屈教授
【套餐】深度学习入门视频课程——唐宇迪
【套餐】Hadoop生态系统零基础入门
【套餐】嵌入式Linux C编程基础
【套餐】2017软考系统集成项目——任铄
【套餐】Android 5.x顶级视频课程——李宁
【直播】广义线性模型及其应用——李科
【直播】从0到1 区块链的概念到实践
【直播】机器学习之凸优化——马博士
【套餐】微信订阅号+服务号Java版 v2.0--翟东平
查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:3926次
    • 积分:129
    • 等级:
    • 排名:千里之外
    • 原创:9篇
    • 转载:4篇
    • 译文:0篇
    • 评论:2条
    文章分类
    最新评论