python string split_python中的string.split()和re.split()

现在我有一个字符串：

my_string = "我是谁？我在哪儿？！不管了。不管了。"

string.split()

要求是按标点符号将文本切分成几个部分，先看python内置的split()方法

# e.g.1

string_list = my_string.split('。')

print(string_list)

>>> ['我是谁？我在哪儿？！不管了', '不管了', '']

可以看到split('。')确实将这个字符串按句号分割了，返回的是list

但是split()方法的缺点是只能定义一个分隔符。比如我们想在遇到中文的句号和问号的时候，将字符串分割开来：

# e.g.2

string_list = my_string.split('？。')

print(string_list)

>>> ['我是谁？我在哪儿？！不管了。不管了。']

string_list = my_string.split('？！')

print(string_list)

>>> ['我是谁？我在哪儿', '不管了。不管了。']

可以看到，split将"。？"这个整体作为分隔符了，因此根本实现不了分割的目标。

P.s. 像e.g.1里的那样，如果字符串的末尾出现了我们想要分割的分隔符，会导致返回list的最后一个元素是空字符串""，这种情况在匹配等任务中是致命的，因此有必要避免这种情况。这里提供两个方法：

# 方法1：在切分之前，对字符串进行strip()处理——去掉开头和结尾的分隔符

string_list = string_list.strip("\s \n ! ! ? ？。")

# 转义的字符要用空格隔开

# 方法2：在切分后，过滤掉split返回的list中的空字符串

# filter_data()函数的功能是：对于一个由string组成的list [str1, str2, str3, ......]，过滤掉那些空字符串''、特殊字符串'\n'，并返回过滤后的新list

def not_break(sen):

return (sen != '\n' and sen != '\u3000' and sen != '' and not sen.isspace())

def filter_data(ini_data):

# ini_data是由句子组成的string

new_data = list(filter(not_break, [data.strip() for data in ini_data]))

return new_data

推荐第二种～

re.split()

如果想要实现“多个分隔符对句子进行切分”的功能，就要依靠python中更为强大的正则方法来实现了。

首先要引入re库，依然以上面的字符串为例：

import re

'''

函数原型 re.split(pattern, string, maxsplit=0, flags=0)

pattern: 分隔符(str)

string: 原始字符串(str)

maxsplit：最大分割次数

flags：没有深入研究，感觉是个辅助功能参数，比如说flags=re.IGNORECASE应该是不区分大小写

'''

#e.g.3

my_string = "我是谁？我在哪儿？！不管了。不管了。"

string_list = re.split("。", my_string)

>>> ['我是谁？我在哪儿？！不管了', '不管了', '']

# 一个分隔符的时候，和string.split()功能一致(所以以后都用re.split()好了，嗯，功能还更强大)

string_list = filter_data(re.split(r"[。|！]", my_string))

print(string_list)

>>> ['我是谁？我在哪儿？', '不管了', '不管了']

# 这就是功能强大之处

'''解释一下 r"[。 |！]"

1) 正则表达式和 \ 会有冲突，'r'是为了保证python在解析"[。 |！]"的时候，把它当做一个字符串来处理，不转义

2) 当定义多个分隔符的时候，要将分隔符放在‘[]’中(貌似只是一种书写规范，因为不没有[]功能好像依然不变)或者'()'中，

两种括号的区别可以看下面的例子

3) 除了第一个分隔符，后面的分隔符都要用'|'隔开

'''

string_list = filter_data(re.split(r"(。|！|？)", my_string))

print(string_list)

>>> ['我是谁', '？', '我在哪儿', '？', '！', '不管了', '。', '不管了', '。']

# 这种方式方便我们复原原始文本

按所有的中英文标点符号切分字符串

对一些“白痴”的操作，引用库是个更安逸的方式

from zhon.hanzi import punctuation as chinese_punctuation # 中文标点符号

import string

english_punctuation = string.punctuation # 英文标点符号

chi_punc = '|'.join([c for c in chinese_punctuation])

eng_punc = '|'.join([c for c in english_punctuation])

punc = chi_punc + eng_punc

>>> punc: '＂|＃|＄|％|＆|＇|(|)|＊|＋|，|－|／|：|；|＜|＝|＞|＠|［|＼|］|＾|＿|｀|｛|｜|｝|～|｟|｠|｢|｣|､|\u3000|、|〃|〈|〉|《|》|「|」|『|』|【|】|〔|〕|〖|〗|〘|〙|〚|〛|〜|〝|〞|〟|〰|〾|〿|–|—|‘|’|‛|“|”|„|‟|…|‧|﹏|﹑|﹔|·|！|？|｡|。!|"|#|$|%|&|\'|(|)|*|+|,|-|.|/|:|;||?|@|[|\\|]|^|_|`|{|||}|~'

# 注意 punc 中的'||'会导致逐字符分句的情况，所以手动抛去；如果真要把‘|’也当做分隔符，再做研究

punc = punc[:-6]+punc[-4:]

my_string = "sen1。sen2.sen3？sen4“”sen5,.,"

my_stringList = filter_data(re.split(r''+("["+punc+"]"), my_string))

# 效果

>>> ['sen1', 'sen2', 'sen3', 'sen4', 'sen5']

所有解决了的问题，都应该被牢记