零基础入门Python爬虫之网页电子书批量爬取

小说迷有福了。学会这个，不用再受网页端广告的骚扰，也不用再花钱去各个小说平台看了。自己批量爬取他不香吗？

对于爱学习的朋友来说也是福音呀。各种资料去爬取，保存下来。更加有利于提高自己的学习效率。

上述两点都是小道，最重要的是爬虫学习的好，是可以工作或者去接单挣外快的。

python爬虫学习实践之电子书爬取

1.获取网页信息

import requests        #导入requests库
'''
获取网页信息
'''
if __name__ == '__main__':          #主函数入口
    target = 'https://www.xsbiquge.com/78_78513/108078.html'#要爬取的目标地址
    req = requests.get(url=target)  #进行get请求
    req.encoding='utf-8'            #设置编码
    print(req.text)                 #打印输出

2.引入BeautifulSoup对网页内容进行解析

import requests        #导入requests库
from bs4 import BeautifulSoup  #引入BeautifulSoup库

'''
引入BeautifulSoup对网页内容进行解析
获取网页电子书文本信息
'''
if __name__ == '__main__':          #主函数入口
    target = 'https://www.xsbiquge.com/78_78513/108078.html'#要爬取的目标地址
    req = requests.get(url=target)  #发起请求，获取html信息
    req.encoding='utf-8'            #设置编码
    html = req.text                 #将网页的html信息保存在html变量中
    bs = BeautifulSoup(html,'lxml') #使用lxml对网页信息进行解析
    texts = bs.find('div',id='content') #获取所有<div id = "content">的内容
    print(texts)                            #打印输出

3.切分数据，去掉空格，提取文字