python爬虫爬取古诗词内容,并存入mysql

python爬虫爬取古诗词内容,并存入mysql

将各模块分类下载
爬取结果展示:
在这里插入图片描述
代码如下:

from urllib import request
import re,os
import pymysql
import time

base_url = "https://so.gushiwen.org"
shiwen_url='https://www.gushiwen.org/shiwen/'

def get_model_url(shiwen_url):
    html=get_html(shiwen_url)
    res = '<a href="https://so\.gushiwen\.org/(.*?)\.aspx">(.*?)</a>'
    urls=re.compile(res).findall(html)
    return urls

def conn_mysql():
    url
  • 0
    点赞
  • 19
    收藏
    觉得还不错? 一键收藏
  • 14
    评论
爬虫是一种按照一定规则,自动抓万维网信息的程序或者脚本。它可以通过定义好的规则,自动抓网络上的信息,并对抓下来的数据进行筛选和提,从而获得我们需要的信息。爬虫并不是Python的专利,使用其他编程语言也可以实现爬虫功能,但Python提供了许多方便的库,使得开发爬虫变得更加简单。\[1\] 在古诗词网的例子中,使用了Python的requests库和BeautifulSoup库来进行网页请求和解析。首先,通过发送HTTP请求获网页的HTML内容,然后使用BeautifulSoup库对HTML进行解析,提出需要的信息,如标题、朝代、作者和内容。最后,将提的信息存储到一个列表中,并将列表写入一个JSON文件中。\[2\] 另外,还可以使用XPath解析HTML内容。XPath是一种用于在XML和HTML文档中进行导航和提信息的语言。在这个例子中,使用了Python的requests库和lxml库来进行网页请求和解析。通过XPath表达式,可以直接定位到需要的元素,并提出相应的信息,然后将提的信息存储到一个列表中,并将列表写入一个JSON文件中。\[3\] 总结来说,Python爬虫可以通过发送HTTP请求获网页内容,然后使用相应的库对网页进行解析,提出需要的信息,并进行存储和处理。这样就可以实现对古诗词网或其他网站的信息进行。 #### 引用[.reference_title] - *1* [Python爬虫(一)——古诗文网,初识什么是爬虫](https://blog.csdn.net/u014663232/article/details/103459450)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [python爬虫入门_3种方法古诗文网站](https://blog.csdn.net/purvispanwu/article/details/106849214)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 14
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值