python新人的爬虫“出师表”——————小说爬取试验

import requests
from lxml import etree
import time
import random

headers = { 'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.3514.0 Safari/537.36'}

url = 'http://www.xbiquge.la/13/13959/'
for i in range(5939025, 5939028):
    url_q = url + str(i) + '.html'
    wz = requests.get(url_q, headers = headers)
    wz.encoding='utf-8'
    # print(wz.text)
    selector = etree.HTML(wz.text)
    html_xs = selector.xpath('//div[@id="content"]/text()')
    # print(html_xs)
    a = ''
    for x in range(len(html_xs)):
        a = a + html_xs[x]
        print(a)
    with open('圣墟1.txt', 'a', encoding='utf-8', newline='')as sx:
        sx.write(a)

才开始学习爬虫,经验不足,自己也讲不太清楚,所以就没做注释。做的很粗糙。万望海涵。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值