python最小白的爬虫~爬取豆瓣小说

爬取豆瓣小说图片,并以标题命名该图片

# Author:li
import  re
import requests
headers = {'User-Agent':'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.33 Safari/537.36'} #加头文件防止被反扒
url = 'https://book.douban.com/top250'
#获取源代码
yuandaima = requests.get(url,headers = headers).text
#print(yuandaima)
#写正则
picture =r'<.*?class="item">.*?<.*?src="(.*?)" width=.*?>.*?<a href=".*?".*?οnclick=.*?title=".*?"'
title = r'<.*?class="item">.*?<.*?src=".*?" width=.*?>.*?<a href=".*?".*?οnclick=.*?title="(.*?)"'
#进行匹配图片url和图片名字
picture_url = re.findall(picture,yuandaima,re.S)  #re.S匹配换行符号
title_name = re.findall(title,yuandaima,re.S)
#把文件写入
for i,b in enumerate(title_name):  #enumerate 第一个取下标,第二关取值
    print(b)
    response = requests.get(picture_url[i],headers=headers)#i是该列表内的下标,b是列表内的值
    with open('{}.jpg'.format(b),'wb')  as f:
      f.write(response.content)

然后加上翻页功能,

转载于:https://www.cnblogs.com/ilovelh/p/10370850.html

  • 1
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python爬虫是一种通过编写代码来自动抓取互联网上数据的工具。而豆瓣音乐是一个很受欢迎的音乐平台,所以爬取豆瓣音乐的数据是一个常见的应用场景。 要实现爬取豆瓣音乐,首先我们需要了解一下豆瓣音乐网页的结构。通过分析豆瓣音乐的页面HTML代码,可以发现每首歌曲都包含在一个特定的HTML元素中,例如一个<div>标签或者一个<ul>标签。在这个标签内,歌曲的信息通常都是按照固定的格式排列的,比如包含歌曲名、歌手、专辑等信息。 接下来,我们可以使用Python爬虫库,例如requests或者Scrapy来发送HTTP请求并获取豆瓣音乐的网页内容。通过解析这个网页内容,可以提取出我们所需要的歌曲信息。 在实际操作中,我们可以使用XPath或者正则表达式等工具来提取网页中的数据。举个例子,如果我们想要获取歌曲名,可以使用XPath表达式“//div[@class='song-title']”或者正则表达式“<div class="song-title">(.+?)</div>”来提取出这个信息。 爬取到的数据可以保存在本地文件或者数据库中。如果我们想要爬取多个页面的数据,可以使用Python的循环来遍历不同的页面,并将每个页面的数据保存到同一个文件或数据库中。 需要注意的是,在进行网页爬取的过程中,我们应该尊重豆瓣音乐的规定和爬取的道德规范。我们可以通过设置合适的请求头和请求频率来避免对网站造成不必要的压力。 总的来说,使用Python爬虫爬取豆瓣音乐是一个相对简单且实用的应用场景。通过这个过程,我们不仅可以获取到感兴趣的音乐数据,还能够锻炼和提高我们的编程和数据处理能力。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值