Python之网络编程（网络爬虫）

题目

编程实现爬取某网站的图片，保存在本地名为pic的文件夹里。
（1）获取网站页面，分析代码结构特征；
（2）处理页面，提取相关信息；
（3）解析数据，保存结果。

解析

解法：

import urllib.request
import re
import os
import urllib

#根据给定的网址来获取网页详细信息，得到的html就是网页的源代码  

def getHtml(url):
    page = urllib.request.urlopen(url)
    html = page.read()
    return html.decode('UTF-8')
def getImg(html):
    reg = r'src="(.+?\.jpg)" pic_ext'
    imgre = re.compile(reg)
    imglist = imgre.findall(html)#表示在整个网页中过滤出所有图片的地址，放在imglist中
    print(imglist)
    x = 0
    path = 'D:\\pic'

   # 将图片保存到E:\\test文件夹中，如果没有test文件夹则创建
    if not os.path.isdir(path):  
        os.makedirs(path)  
    paths = path+'\\'      #保存在test路径下  
    
    for imgurl in imglist:  
        urllib.request.urlretrieve(imgurl,'{0}{1}.jpg'.format(paths,x))  #打开imglist中保存的图片网址，并下载图片保存在本地，format格式化字符串 
        x = x + 1
    print("x=",x)
    return imglist

html = getHtml("http://tieba.baidu.com/p/2460150866")#获取该网址网页详细信息，得到的html就是网页的源代码  
print (getImg(html)) #从网页源代码中分析并下载保存图片

执行结果,如图所示：
成功取到该网址网页下的图片