python输出古诗词_python爬虫——爬取古诗词

本文介绍了一个Python爬虫项目,用于抓取古诗词网站上的唐诗宋词,包括诗词标题、朝代、作者、内容和标签,并存储到本地数据库。文章详细解析了页面元素定位和数据提取过程,提供了完整的爬虫脚本源码。
摘要由CSDN通过智能技术生成

一. 概要

1.通过python爬虫循环爬取古诗词网站唐诗宋词

2.落地到本地数据库

二. 页面分析

首先通过firedebug进行页面定位:

watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=

其次源码定位:

watermark,size_16,text_QDUxQ1RP5Y2a5a6i,color_FFFFFF,t_100,g_se,x_10,y_10,shadow_90,type_ZmFuZ3poZW5naGVpdGk=

最终生成lxml etree定位div标签源码:

# 通过 lxml进行页面分析

​response = etree.HTML(data)

# div层定位

for row in response.xpath('//div[@class="left"]/div[@class="sons"]'):

# 标题定位

title = row.xpath('div[@class="cont"]/p/a/b/text()')[0] if row.xpath('div[@class="cont"

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值