爬取小说并保存到数据库中

爬取小说并存入数据库中

小说网站

小说网站:https://www.qb50.com/fenlei
这个网站没有反爬虫措施,所以小说资源很容易爬取下来
这里用requests和xpath直接获取

创建数据库

创建两种类型的数据库,一种是存放小说的数据表,还要一种是小说数据表名和其作者,前一种需要大量来创建,这里在python代码中实现,第二种直接在数据库中创建

代码实现

import requests
from lxml import etree
import random
import pymysql

list1=['a','b','c','d','e','f','g','h','i','j','k','l','n','o','p','q','r','s','t','u','v','w','x','y','z']

#随机生成数据库表
def mysql():
    wood=pymysql.Connect(host='localhost',user='root',password='root',db='we')
    random.shuffle(list1)
    data=random.sample(list1,random.randint(3,9))
    data=''.join(data)
    we=wood.cursor()
    sql='''create table {}(
    name varchar(20),
    content text);
'''.format(data)
    we.execute(sql)
    we.close()
    wood.close()
    return data

#将小说名字,图片对应的表导入books表中
def books(book_name,author,data):
    book_name=book_name
    author=author
    data=data
    photo=None
    wood=pymysql.Connect(host='localhost',user='root',password='root',db='we')
    we=wood.cursor()
    sql='insert into books values("%s","%s","%s","%s")'%(book_name,author,data,photo)
    we.execute(sql)
    wood.commit()
    we.close()
    wood.close()

#将小说文本数据导入随机表中
def dao(item,data):
    name=data
    item=item
    wood = pymysql.Connect(host='localhost', user='root', password='root', db='we')
    we=wood.cursor()
    sql='insert into %s values ("%s","%s")'%(name,item['name'],item['text'])
    we.execute(sql)
    wood.commit()
    we.close()
    wood.close()

#获取小说内容
def fun3(url_,name):
    url_=url_
    name=name
    wood=requests.get(url=url_,headers=headers)
    we=etree.HTML(wood.text)
    text=we.xpath('//div[@id="content"]/text()')
    text=''.join(text).replace('全本小说网 www.qb50.com,最快更新最新章节!','')
    item={}
    item['name']=name
    item['text']=text
    return item
#获取小说的详细链接
def fun2(next_url,book_name):
    next_url=next_url
    book_name=book_name
    # photo=photo
    headers = {
        'User-Agent': 'zilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.150 Safari/537.36 Edg/88.0.705.63'}
    wwwd = requests.get(url=next_url, headers=headers)
    wwwd.encoding=wwwd.apparent_encoding
    we=etree.HTML(wwwd.text)

    author=we.xpath('//div[@id="info"]/h1/small/a/text()')[0]
    all_list=we.xpath('//div[@class="zjbox"]/dl[@class="zjlist"]/dd')

    #创建随机表,并获取表名
    data=mysql()
    books(book_name,author,data)
    for li in all_list:
        try:
            url_=next_url+li.xpath('./a/@href')[0]
            name=li.xpath('./a/text()')[0]
            # 小说每一章节详细数据
            item=fun3(url_,name)
            dao(item,data)
            print('爬取成功',item['name'])
        except:
            continue



for i in range(1,8):
    url='https://www.qb50.com/fenlei/{}_1/'.format(i)
    headers={'User-Agent':'zilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/88.0.4324.150 Safari/537.36 Edg/88.0.705.63'}
    wood=requests.get(url=url,headers=headers)
    we=etree.HTML(wood.text)
    all_list=we.xpath('//div[@class="shu_cont"]/div[@class="shu_box"]')
    for li in all_list:
        book_name=li.xpath('./div[2]/h4/a/text()')[0]
        next_url=li.xpath('./div[2]/h4/a/@href')[0]
        tu=li.xpath('./div[1]/a/img/@src')[0]
        # photo=fun(tu)
        fun2(next_url,book_name)
  • 10
    点赞
  • 44
    收藏
    觉得还不错? 一键收藏
  • 6
    评论
flink是一种流处理引擎,也是一种流式数据库存储系统。流式数据库存储flink的核心概念是无限流数据流,在数据源端生成的数据经过流式处理引擎的处理和分析后,被存储在流式数据库。 流式数据库存储flink的特点是高性能、低延迟和高可靠性。它能够快速处理和存储大规模的实时数据,并且能够保证数据的实时性和准确性。与传统的批处理方式相比,flink的流式存储能够实现更快的数据处理速度和更低的数据延迟。 流式数据库存储flink还具有高扩展性和高容错性。它能够水平扩展,通过增加计算和存储节点来提升系统的性能和吞吐量。同时,flink还能够自动将数据备份到多个节点上,以提供高可用性和容错性,保证在节点故障时不会丢失数据。 此外,流式数据库存储flink还支持多样化的数据处理操作,可以对数据进行实时的过滤、聚合、转换和计算。可以通过编程的方式定义流处理任务,并将结果存储在流式数据库。这样,用户可以根据自己的需求和业务逻辑实现个性化的数据处理和存储。 总之,流式数据库存储flink是一种高性能、低延迟、高可靠性、高扩展性和高容错性的数据存储系统。它可以实时处理和存储大规模的实时数据,并且支持多样化的数据处理操作。在大数据时代,流式数据库存储flink发挥着重要的作用,帮助用户实现快速、准确和实时的数据处理和存储

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值