爬虫基础（1）基础的基础

最新推荐文章于 2024-09-08 13:15:25 发布

yeyoooo

最新推荐文章于 2024-09-08 13:15:25 发布

阅读量170

点赞数

分类专栏： Python 文章标签：正则表达式爬虫 python

本文链接：https://blog.csdn.net/yeyoooo/article/details/120095325

版权

Python 专栏收录该内容

3 篇文章 0 订阅

订阅专栏

本文介绍了Python的requests库用于发送HTTP请求，包括GET和POST方法，以及如何设置请求头和携带数据。同时讲解了响应对象中的状态码、头、体等信息。还探讨了正则表达式的常见匹配规则，并通过match()、search()、findall()方法进行匹配操作。此外，文章还展示了如何使用sub()方法替换字符串，并利用compile()方法编译正则表达式以提高效率。

摘要由CSDN通过智能技术生成

认识http&静态网页爬取

请求：请求方法、请求网址、请求头、请求体(post方法需要)

在这里插入图片描述

import requests
# 请求方法包括get, post等
headers = {
    'User-Agent':'Mozilla/5.0(Windows NT 10.0;Win64; x64) AppleWeb/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36'
}   # 请求头
r = requests.get("URL", headers = headers)

data = { 'name': 'germey', 'age': 22}  # 可以理解为请求体？
r = requests.post("http://httpbin.org/post", data=data)
print(r.text)

响应：响应状态码、响应头、响应体（爬取内容）

import requests

headers = {
    'User-Agent':'Mozilla/5.0(Windows NT 10.0;Win64; x64) AppleWeb/537.36 (KHTML, like Gecko) Chrome/75.0.3770.100 Safari/537.36'
}   # 请求头
r = requests.get("URL", headers = headers)

print(r.status_code)   # 状态码，返回200即正常响应
print(r.headers)    # 响应头
print(r.cookies)    # Cookies
print(r.url)        # URL
print(r.history)    # 请求历史
print(r.text)       # 返回网页源代码

正则表达式

常用匹配规则

模式	描述
\w	匹配字母、数字及下划线
\W	匹配不是字母、数字及下划线的字符
\s	匹配任意空白字符，等价于[\t\n\r\f]
\S	匹配任意非空字符
\d	匹配任意数字，等价于[0-9]
\D	匹配任意非数字的字符
\A	匹配字符串开头
\Z	匹配字符串结尾，如果存在换行，只匹配到换行前的结束字符串
\z	匹配字符串结尾，如果存在换行，同时还会匹配换行符
\G	匹配最后匹配完成的位置
\n	匹配一个换行符
\t	匹配一个制表符
^	匹配一行字符串的开头
$	匹配一行字符串的结尾
.	匹配任意字符，除了换行符，当re.DOTALL标记被指定时，则可以匹配包括换行符的任意字符
[…]	用来表示一组字符，单独列出，比如[amk]匹配a、m或k
[^…]	不在[]中的字符，比如[^abc]匹配除了a、b、c之外的字符
*	匹配0个或多个表达式
+	匹配1个或多个表达式
?	匹配0个或1个前面的正则表达式定义的片段，非贪婪方式
{n}	精确匹配n个前面的表达式
{n, m}	匹配n到m次由前面正则表达式定义的片段，贪婪方式
( )	匹配括号内的表达式，也表示一个组

匹配方法match(), search(), findall()

match() : 从字符串起始开始搜索，起始若不匹配返回None
search() : 扫描整个字符串，返回第一个成功匹配的结果（只返回一个）
findall() : 返回匹配正则表达式的所有内容（以列表形式）。同时若正则表达式中使用()划分了group，则只返回()内的对象

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

import re
 
result = re.search('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
print(result)
print(result.group(1))
print(result.group(2))
'''
输出结果：
<re.Match object; span=(153, 260), match='<li data-view="2">一路上有你</li>\n        <li data-vi>
任贤齐
沧海一声笑
'''

results = re.findall('<li.*?singer="(.*?)">(.*?)</a>', html, re.S)
print(results)
print(type(results))

for i in results:
    print(i)
'''
输出结果：
[('任贤齐', '沧海一声笑'), ('齐秦', '往事随风'), ('beyond', '光辉岁月'), ('陈慧琳', '记事本'), ('邓丽君', '但愿人长久')]
<class 'list'>
('任贤齐', '沧海一声笑')
('齐秦', '往事随风')
('beyond', '光辉岁月')
('陈慧琳', '记事本')
('邓丽君', '但愿人长久')
'''

修饰符

修饰符	描述
re.I	使匹配对大小写不敏感
re.S	使.匹配包括换行在内的所有字符
re.L	做本地化识别（locale-aware）匹配
re.M	多行匹配，影响^和$
re.U	根据Unicode字符集解析字符。这个标志影响\w、\W、 \b和\B

在网页匹配中，较为常用的有re.S和re.I

import re
 
content = '''Hello 1234567 World_This is 
a Regex Demo'''  # 字符串中含有换行符

result = re.match('^He.*?(\d+).*mo$', content)
print(result)  # 返回None

#  使用修饰符
result = re.match('^He.*?(\d+).*mo$', content, re.S)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

贪婪&非贪婪

贪婪&非贪婪是针对通用匹配的概念。
通用匹配：.* （点星）。其中.（点）代表匹配任意字符（除换行符），* （星）代表匹配前面的字符无限次
.* 就可以匹配除换行符外任意长度字符

import re
content = 'Hello 1234567 World_This is a Regex Demo'

# \d+表示匹配至少一个数字, \d{n}表示匹配n个数字
result = re.match('^He.*(\d+).*mo$', content)
print(result.group(1))  # 返回7，贪婪

result = re.match('^He.*?(\d+).*mo$', content)
print(result.group(1))  # 返回1234567，非贪婪

修改替换字符方法sub()

参数：第一个参数是匹配的字段（正则表达式），第二个参数是要替换成的字符串，第三个参数是原字符串

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
import re
html2 = re.sub('<a.*?>|</a>', '', html)  # 中间的"|"是"和"的意思，删掉含有a的节点（冗余字符串）
print(html2)

返回结果

compile()方法

compile()方法可以将正则字符串编译成正则表达式对象，以便在后面的匹配中复用。例如sub()方法中第一个参数为正则表达式，若对多个待处理的字符串需要进行同样的操作，可以使用compile()方法。

import re
 
content1 = '2020-02-28 12:00'
content2 = '2020-02-29 12:55'
content3 = '2020-03-02 13:21'

pattern = re.compile('\d{2}:\d{2}')    

result1 = re.sub(pattern, '', content1)
result2 = re.sub(pattern, '', content2)
result3 = re.sub(pattern, '', content3)  # 删掉三个字符串对象中的时间信息

print(result1, result2, result3)
# 返回 2020-02-28  2020-02-29  2020-03-02