python爬取网页图片代码_Python实现简单网页图片抓取完整代码实例

利用python抓取网络图片的步骤是:

1、根据给定的网址获取网页源代码

2、利用正则表达式把源代码中的图片地址过滤出来

3、根据过滤出来的图片地址下载网络图片

以下是比较简单的一个抓取某一个百度贴吧网页的图片的实现:

# -*- coding: utf-8 -*-

# feimengjuan

import re

import urllib

import urllib2

#抓取网页图片

#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码

def getHtml(url):

page = urllib.urlopen(url)

html = page.read()

return html

def getImg(html):

#利用正则表达式把源代码中的图片地址过滤出来

reg = r'src="(.+?\.jpg)" pic_ext'

imgre = re.compile(reg)

imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中

x = 0

for imgurl in imglist:

urllib.urlretrieve(imgurl,'%s.jpg' %x) #打开imglist中保存的图片网址,并下载图片保存在本地

x = x + 1

html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码

getImg(html)#从网页源代码中分析并下载保存图片

进一步对代码进行了整理,在本地创建了一个“图片”文件夹来保存图片

# -*- coding: utf-8 -*-

# feimengjuan

import re

import urllib

import urllib2

import os

#抓取网页图片

#根据给定的网址来获取网页详细信息,得到的html就是网页的源代码

def getHtml(url):

page = urllib.urlopen(url)

html = page.read()

return html

#创建保存图片的文件夹

def mkdir(path):

path = path.strip()

# 判断路径是否存在

# 存在 True

# 不存在 Flase

isExists = os.path.exists(path)

if not isExists:

print u'新建了名字叫做',path,u'的文件夹'

# 创建目录操作函数

os.makedirs(path)

return True

else:

# 如果目录存在则不创建,并提示目录已经存在

print u'名为',path,u'的文件夹已经创建成功'

return False

# 输入文件名,保存多张图片

def saveImages(imglist,name):

number = 1

for imageURL in imglist:

splitPath = imageURL.split('.')

fTail = splitPath.pop()

if len(fTail) > 3:

fTail = 'jpg'

fileName = name + "/" + str(number) + "." + fTail

# 对于每张图片地址,进行保存

try:

u = urllib2.urlopen(imageURL)

data = u.read()

f = open(fileName,'wb+')

f.write(data)

print u'正在保存的一张图片为',fileName

f.close()

except urllib2.URLError as e:

print (e.reason)

number += 1

#获取网页中所有图片的地址

def getAllImg(html):

#利用正则表达式把源代码中的图片地址过滤出来

reg = r'src="(.+?\.jpg)" pic_ext'

imgre = re.compile(reg)

imglist = imgre.findall(html) #表示在整个网页中过滤出所有图片的地址,放在imglist中

return imglist

#创建本地保存文件夹,并下载保存图片

if __name__ == '__main__':

html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息,得到的html就是网页的源代码

path = u'图片'

mkdir(path) #创建本地文件夹

imglist = getAllImg(html) #获取图片的地址列表

saveImages(imglist,path) # 保存图片

结果在“图片”文件夹下保存了几十张图片,如截图:

20171215160218909.jpg?2017111516228

总结

以上就是本文关于Python实现简单网页图片抓取完整代码实例的全部内容,希望对大家有所帮助。感兴趣的朋友可以继续参阅本站:

Python爬虫实例爬取网站搞笑段子

python爬虫系列Selenium定向爬取虎扑篮球图片详解

如有不足之处,欢迎留言指出。感谢朋友们对本站的支持!

本文标题: Python实现简单网页图片抓取完整代码实例

本文地址: http://www.cppcns.com/jiaoben/python/214901.html

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
好的,以下是一个利用 Python 进行网页数据抓取和清洗的实例: 首先,需要安装 requests 和 BeautifulSoup 库,可以使用以下命令进行安装: ``` pip install requests pip install beautifulsoup4 ``` 然后,我们可以使用 requests 库来获取网页内容,然后使用 BeautifulSoup 库对网页进行解析和清洗。 假设我们想要获取某个新闻网站上的新闻标题和链接,可以使用以下代码: ```python import requests from bs4 import BeautifulSoup url = "https://www.example.com/news" # 发送 GET 请求并获取网页内容 response = requests.get(url) html = response.text # 使用 BeautifulSoup 解析网页内容 soup = BeautifulSoup(html, "html.parser") # 找到包含新闻标题和链接的 HTML 元素 news_list = soup.find_all("div", class_="news-item") # 解析 HTML 元素,获取新闻标题和链接 for news_item in news_list: title = news_item.find("a", class_="news-title").text link = news_item.find("a", class_="news-title")["href"] # 输出新闻标题和链接 print(title) print(link) ``` 在上面的代码中,我们首先发送了一个 GET 请求,获取了网页的 HTML 内容。然后,我们使用 BeautifulSoup 对 HTML 内容进行解析,找到包含新闻标题和链接的 HTML 元素,并解析获取标题和链接。最后,我们输出了每条新闻的标题和链接。 需要注意的是,有些网站可能会对爬虫进行限制或者禁止爬虫,所以在进行网页数据抓取时需要注意一些法律和道德问题,同时需要保护自己的 IP 地址,防止被封禁。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值