最近在学习python的爬虫知识,所以找了一些小说网站爬取电子书练练手
本次爬取的是顶点小说网站的斗破苍穹,好久没看了,爬取来稳固一下以前的经典小说。
用到的python模块有requests,sys,这是系统自带的不需要下载,还有就是BeautifulSoup,这个主要对html的元素做处理的强大模块
不多说了,上代码
下面准备一些变量,比如我们要爬取的小说链接,章节的数量,章节名等等
def __init__(self):
self.server = ''
self.target = 'https://www.23us.so/files/article/html/24/24420/index.html' #斗破苍穹链接
self.names = [] #存放章节名
self.urls = [] #存放章节链接
self.nums = 0 #章节数
我们先打开我们爬取的链接观察我们需要爬取的内容,这个table标签记录着斗破苍穹所有的章节名称,我们可以通过BeautifulSoup对HTML元素的处理,得到我们要的章节名字,以及这些章节名字的链接
刚刚我们看了table表格里面装着所有的章节标签,而且id是为at,所以我们可以利用BeautifulSoup的find_all(‘table’,id=‘at’)得到章节区域,然后再find_all(‘a’)得到所有的a标签即是章节名称&#