基于python3.x的爬取马蜂窝旅游的游记照片

最新推荐文章于 2024-10-16 18:21:16 发布

beyond_LH

最新推荐文章于 2024-10-16 18:21:16 发布

阅读量9.4k

点赞数 4

分类专栏： Python爬虫文章标签：马蜂窝游记照片 urllib.request xpath lxml mkdir

本文链接：https://blog.csdn.net/beyond9305/article/details/83041180

版权

Python爬虫专栏收录该内容

16 篇文章 145 订阅 ¥9.90 ¥99.00

订阅专栏

本文介绍了如何使用Python3.x进行马蜂窝旅游达人的游记照片爬取。通过urllib.request和lxml库解析HTML，利用XPath选择数据，抓取data-src属性中的图片链接。同时，文章提到了文件夹创建、图片保存及文件命名的处理，以及在实际操作中需要注意的路径和命名问题。

摘要由CSDN通过智能技术生成

前几天在csdn首页看到一个大佬爬取看准网数据并分析的博客，自己搞了一下，各种问题，已超过目前的认知领域，so，先从基本的做起吧，一点点添加新内容。

本次任务为爬取马蜂窝旅行达人的游记照片，之前搞过几次马蜂窝，中间停顿过长，再次回归吧。

上代码：

import re
import urllib.request
import os
from lxml import etree

def savePhoto(soup,path):
    print(u"开始保存图片")
    img=soup.xpath('//img/@data-src')
    total_img=0
    for myimg in img:
        total_img += 1
        print(myimg)
        urllib.request.urlretrieve(myimg,path+'%s.jpg'%total_img)
        print(u"已经保存第",total_img,u"张照片")
    print(u"总共保存第",total_img,u"张照片")

def getTitle(soup):
    result=soup.xpath('//div/h1/text()')[0]
    result=re.sub(

了解本专栏