python中一行代码太长,python一行代码太长

大家好,小编为大家解答python每行代码长度不能超过100个字符的问题。很多人还不知道python中一行代码太长,现在让我们一起来看看吧!

Source code download: 本文相关源码

Python!30行爬虫代码

初学Python,想用博客记录自己的学习过程。
来源:https://www.bilibili.com/video/av19954075?t=4933

刚对爬虫有了初步了解,一直崇拜CSDN上的大佬,希望自己写的东西也能对别人有所帮助!

话不多说,先介绍一下爬虫:
爬虫即是一段能够自动的批量的采集(下载)我们所需要的网络资源!(该资源可以是图片、网站、视频、文件、音频等等)

粗略的说一下**

开发爬虫的步骤

**:
首先:确定你的爬取目标数据
接着,分析目标数据的对应的URL(这里简单介绍一下URL,学术名称:统一资源定位符,其实也就是网址)
再接着,下载数据
清洗数据
写入文本

这里附上代码

import requests
import  re
url="http://www.jingcaiyuedu.com/novel/GLSmM4.html"
headers = {"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64; rv:67.0) Gecko/20100101 Firefox/67.0",}
response = requests.get(url,headers=headers)
response.encoding='utf-8'
html=response.text
#print(html)
title=re.findall(r'<meta property="og:title" content="(.*?)"/>',html)[0]
fb=open('%s.txt'%title,'w',encoding='utf-8')
dl=re.findall(r'<dl class="panel-body panel-chapterlist">.*?</dl>',html,re.S)[0]
chapter_into_list=re.findall(r'<a href="(.*?)">(.*?)<',dl)
for chapter_info in chapter_into_list:
    chapter_url,chapter_title=chapter_info
    chapter_url=f"http://www.jingcaiyuedu.com{chapter_url}"
    #print(chapter_url,chapter_title)
    #下载章节内容
    chapter_response=requests.get(chapter_url,headers=headers)
    chapter_response.encoding='utf-8'
    chapter_html=chapter_response.text
    chapter_content=re.findall(r' <div class="panel-body" id="htmlContent">(.*?)</div>',chapter_html,re.S)[0]
    print("=====",chapter_content)
    chapter_content=chapter_content.replace(" ",'')
    chapter_content = chapter_content.replace("&nbsp", '')
    chapter_content = chapter_content.replace("<br/>", '')
    chapter_content = chapter_content.replace("\n", '')
    fb.write(chapter_title)
    fb.write(chapter_content)
    fb.write('\n')
    print(chapter_url)


评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值