正确的正则表达式学习方法是放弃抵抗^_^

一、re库常用方法

re库常用函数	作用
re.findall(pattern, string)	根据pattern返回匹配结果（列表）
re.split(pattern, string)	使用pattern分割string，返回列表
re.sub(pattern, repl, string)	使用repl替换string中的pattern

1.1 re.findall(pattern, string)

找出文本中出现的年份

import re


pattern = '\d{4}'
string = """Python是一门面向对象的编程语言，诞生于1991年。\
目前以广泛应用在网站开发、游戏软件开发、数据采集、机器学习等多个领域。\
一般情况下Python是Java的20%，所以说人生苦短，我用Python。"""

re.findall(pattern, string)

Run

['1991']

1.2 re.split(pattern, string)

断句

pattern = '[。;]'

string = """Python是一门面向对象的编程语言，诞生于1991年;\
目前以广泛应用在网站开发、游戏软件开发、数据采集、机器学习等多个领域。\
一般情况下Python是Java的20%，所以说人生苦短，我用Python。"""

re.split(pattern, string)

Run

['Python是一门面向对象的编程语言，诞生于1991年',
 '目前以广泛应用在网站开发、游戏软件开发、数据采集、机器学习等多个领域',
 '一般情况下Python是Java的20%，所以说人生苦短，我用Python',
 '']

1.3 re.sub(pattern, repl, string)

将数字替换为NUM

pattern = '\d+'
repl = 'NUM'
string = """Python是一门面向对象的编程语言，诞生于1991年。\
一般情况下Python是Java的20%，所以说人生苦短，我用Python。"""

re.sub(pattern, repl, string)

Run

'Python是一门面向对象的编程语言，诞生于NUM年。一般情况下Python是Java的NUM%，所以说人生苦短，我用Python。'

从上面我们可以看到通过re库可以做很多精细巧妙的操作。re库并不难，难的是正则表达式的设计，下面带你认识一下正则表达式中的各种符号

二、正则表达式中的符号

按照符号的功能，我将其分为三类，一般情况下表达式都是由这三种符号组成的。

2.1 正则字符

正则符号	描述	匹配自己时
\	转义字符。例如， 'n' 匹配字符 'n'。	\\
( )	标记一个子表达式的开始和结束位置。	\( \)
.	匹配除换行符 \n 之外的任何单字符。	\.
|	|左右两侧均可参与匹配	\|
\d	匹配字符串中的单个数字
a-zA-Z	匹配全部英文字符
0-9	匹配全部数字
\s	匹配字符串中的\n,\t,空格
[]	中括号内任意正则符号均可参与匹配	\[ \]
^	当在方括号表达式中使用，^对其后的正则表达式进行了反义表达。	\^

2.2 限定字符

正则符号	描述	匹配自己时
*	匹配前面的子表达式零次或多次。	\*
?	匹配前面的子表达式零次或一次	\?
+	匹配前面的子表达式一次或多次。	\+
{m}	n 是一个非负整数。匹配确定的 m 次。
{m,}	m 是一个非负整数。至少匹配m 次。
{m, n}	m 和 n 均为非负整数，其中m <= n。最少匹配 m 次且最多匹配 n 次。

2.3 定位字符

正则符号	描述	匹配自己时
^	匹配输入字符串的开始位置。	\^
$	匹配输入字符串的结尾位置	\$
\b	匹配一个单词边界，即字与空格间的位置
\B	非单词边界匹配

感悟

正则符号和正则表达式晦涩难懂，即使上面的三类符号背的滚瓜烂熟，可能对解决问题暂时帮助不大。不如先放弃抵抗，我们再来看几个例子^_^幻想自己掌握了

三、案例

3.1 . 统一表达

将指代同一个主题的不同表达词语统一为同一个词

text = '中国铁路工程集团有限公司成立于1950年3月，总部位于北京。目前中国中铁已经发展成中国和亚洲最大的多功能综合型建设集团。'

pattern = '中国铁路工程集团有限公司|中国中铁'

repl = '中铁'
re.sub(pattern, repl, text)

Run

'中铁成立于1950年3月，总部位于北京。目前中铁已经发展成中国和亚洲最大的多功能综合型建设集团。'

3.2 分割文本数据的章节

text = """ 第一篇 Python简介 第二篇 Python入门语法 第三篇 Python网络爬虫 第四篇 文本数据编码 第五篇 数据分析 第六篇 可视化"""

pattern = '第[一二三四五六七八九十零百]+篇'

re.split(pattern, text)

Run

[' ',
 ' Python简介 ',
 ' Python入门语法 ',
 ' Python网络爬虫 ',
 ' 文本数据编码 ',
 ' 数据分析 ',
 ' 可视化']

3.3 抽取出数字

比如日期数据

text = '中国铁路工程集团有限公司成立于1950年3月，总部位于北京。目前中国中铁已经发展成中国和亚洲最大的多功能综合型建设集团。'

pattern = '(\d{4})年(\d{1,2})月'

re.findall(pattern, text)

Run

[('1950', '3')]

四、好东西留在最后

在你放弃治疗时，希望来了^_^

• 搜索引擎检索到自己需要的正则表达式

• 最简单最好用表达式(.*?)

• 在正则表达式测试网站 http://c.runoob.com/front-end/854验证自己的正则表达式 

4.1 检索找到自己需要的正则表达式

比如我只需要中文，其余字符统统不要。

我会在百度搜中文正则表达式

发现很多网页中网友提到[\u4e00-\u9fa5]+，于是

import re


pattern = '[\u4e00-\u9fa5]+'

string = """Python是一门面向对象的编程语言，诞生于1991年。\
目前以广泛应用在网站开发、游戏软件开发、数据采集、机器学习等多个领域。\
一般情况下Python是Java的20%，所以说人生苦短，我用Python。"""

re.findall(pattern, string)

Run

['是一门面向对象的编程语言',
 '诞生于',
 '年',
 '目前以广泛应用在网站开发',
 '游戏软件开发',
 '数据采集',
 '机器学习等多个领域',
 '一般情况下',
 '是',
 '的',
 '所以说人生苦短',
 '我用']

4.2 最简单最好用表达式(.*?)

pattern设计步骤：

正则符号组成正则表达式，用于匹配需要的字符。

1. 找到重复的一致的规律

2. 复制粘贴到pattern中

3. 扣掉想要的数据

4. 替换为(.*?)  或者相应的正则符号表达式*

比如现在需要快速挖掘出intros中的姓名、籍贯和年龄

import re


pattern = '我叫(.*?)，来自(.*?)，今年(.*?)岁。'

intros = ['我叫张三，来自山东，今年25岁。',
          '我叫李四，来自河北，今年28岁。',
          '我叫王五，来自河南，今年24岁。']

for intro in intros:
    info = re.findall(pattern, intro)
    print(info)

Run

[('张三', '山东', '25')]
[('李四', '河北', '28')]
[('王五', '河南', '24')]

特别需要注意的是pattern中的(.*?)左右两侧必须有字符，否则匹配失败

import re


pattern = '(.*?)，来自(.*?)，今年(.*?)'

intros = ['我叫张三，来自山东，今年25岁。',
          '我叫李四，来自河北，今年28岁。',
          '我叫王五，来自河南，今年24岁。']

for intro in intros:
    info = re.findall(pattern, intro)
    print(info)

Run

[('我叫张三', '山东', '')]
[('我叫李四', '河北', '')]
[('我叫王五', '河南', '')]

由于

'(.*?)，来自(.*?)，今年(.*?)'

中最左侧和最右侧的(.*?)没有被其他字符左右包裹，导致匹配姓名和年龄失败。

精彩回顾

中文文本分析相关资源汇总

cnsenti中文情绪情感分析库

两行代码读取pdf、docx文件

三行代码计算文本相似性

5个小问题带你理解列表推导式

Python网络爬虫与文本数据分析

综述:文本分析在市场营销研究中的应用

LabelStudio多媒体数据标注工具[5星推荐]

如何批量下载上海证券交易所上市公司年报

Loughran&McDonald金融文本情感分析库

如何使用Python快速构建领域内情感词典

Python数据分析相关学习资源汇总帖

漂亮~pandas可以无缝衔接Bokeh

YelpDaset: 酒店管理类数据集10+G

万水千山总是情，给我点好看可好❤

公众号后台回复关键词 正则表达式re, 获得本文代码示例