爱看小说的码字们,看过来,爬虫小说,亲测有效

本文介绍了如何使用Python的requests和parsel库实现网络爬虫,从bqg70.com抓取小说章节,将内容保存到本地文本文件。作者指导读者如何安装所需的库并提供了一个实际操作示例。
摘要由CSDN通过智能技术生成
import requests
import parsel
import os

filename = 'D:\BaiduNetdiskDownload\pychram测试-1\lianxi\小说\\'#自己的路径
if not os.path.exists(filename):
    os.mkdir(filename)
headers = {

    'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/81.0.4044.138 Safari/537.36'
}
rid = input("输入书名id:")
link = f'https://www.bqg70.com/book/{rid}/'
html_data = requests.get(url=link, headers=headers).text
selector_2 = parsel.Selector(html_data)
divs = selector_2.css('.listmain dd')
for div in divs:
    title = div.css('a::text').get()
    href = div.css('a::attr(href)').get()
    url = 'https://www.bqg70.com' + href
    try:
        response = requests.get(url=url, headers=headers)
        selector = parsel.Selector(response.text)
        book = selector.css('#chaptercontent::text').getall()
        book = '\n'.join(book)
        with open(filename + title + '.txt', mode='a', encoding='utf-8') as f:
            f.write(book)
            print('正在下载章节:', title)
    except Exception as e:
        print(e)

安装一下requests和parsel,改一下路径,要哪个采哪个--我是一只勤劳的蜜蜂,还是不会的找我

可在B站看:【小说爬虫】Python爬虫实战,批量抓取全网付费小说,永久白嫖,告别付费免费看小说告别书荒_哔哩哔哩_bilibili

  • 2
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值