BeautifulSoup爬取笔趣阁小说并下载到本地

这篇博客介绍了如何使用Python的BeautifulSoup库来爬取笔趣阁网站上的小说,并将其下载到本地。首先,通过HTTP请求获取网页HTML,然后解析HTML找到包含章节链接的`
`标签。接着,将不完整的链接与基础URL拼接,再对GBK编码的响应内容进行处理。通过查找`
`来提取章节内容,最后以GBK编码将章节内容追加写入TXT文件,完成小说的下载。
摘要由CSDN通过智能技术生成

首先打开笔趣阁网址随便选一篇小说

 先请求网址拿到网页的数据代码如下:

    def __init__(self):
        #http://www.biquyun.com/14_14055/9195936.html
        #http://www.biquyun.com/14_14055/
        self.url = "http://www.biquyun.com/14_14055/"
        self.base_url = "http://www.biquyun.com"
        self.headers = {
            "User-Agent": "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/535.1 (KHTML, like Gecko) Chrome/62.0.835.163 Safari/535.1"
        }
        self.title = ""

    def get_pager_data(self):
        try:
            response = requests.get(self.url,headers=self.headers)
            if response.status_code == 200:
                return response.text.encode("iso-8859-1")
        except RequestException as e:
            print("请求异常")
  
  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值