正则表达式

正则表达式
动机 ： 
1. 处理文本称为计算机主要工作之一
2. 根据文本内容进行固定搜索是文本处理的常见工作
3. 为了快速方便的处理上述问题，正则表达式技术诞生，逐渐发展为一个单独技术被众多语言使用


定义 ： 即高级文本匹配模式，提供了搜索，替代等功能，本质是由一些字符和特殊符号组成的字串。这个字串描述了字符和字符的重复行为，可以匹配某一类特征的字符串集合。


目标 ： 
1.熟练正则表达式符号和用法
2.能够正确的理解和简单使用正则表达式进行匹配
3.能够使用python  re模块操作正则表达式


正则特点：
* 方便进行检索和修改
* 支持语言众多
* 使用灵活变化多样
* 文本处理，mongo存储某一类型字串，django、tornado路由，爬虫文本匹配


正则的规则和用法  


import re


re.findall(regex,string)
功能 ： 使用正则表达式匹配字符串
参数 ： regex ： 正则表达式
        string ： 目标字符串
返回值 ： 匹配到的内容




元字符 （即正则表达式中有特殊含义的字符）


* 普通字符
元字符 ： abc
匹配规则 ： 匹配相应的普通字符
e.g.     ab ----》  abcdef ：  ab


In [3]: re.findall('ab','abcdefabcde')
Out[3]: ['ab', 'ab']


* 使用 或 多个正则同时匹配
元字符 ： | 
匹配规则：符号两侧的正则均能匹配


e.g.    ab|cd  ---》 abcdefgh   ： ab  cd


In [5]: re.findall('ab|fg','abcdefgabcde')
Out[5]: ['ab', 'fg', 'ab']




* 匹配单一字符
元字符 ： .
匹配规则： 匹配任意一个字符  '\n'除外
e.g.   f.o   ---》   foo   fuo   fao   f@o


In [7]: re.findall('f.o','affooasand f@o,')
Out[7]: ['ffo', 'f@o']


*匹配字符串开头
元字符 ：  ^   
匹配规则： 匹配一个字符串的开头位置
e.g.   ^Hello   ---> Hello world : Hello


*匹配字符串结尾
元字符： $
匹配规则： 匹配一个字符串的结尾位置
e.g.   py$  ---->  hello.py  : py  


In [10]: re.findall('py$','hello.py')
Out[10]: ['py']


*匹配重复0次或多次


元字符： * 
匹配规则：匹配前面出现的正则表达式 0次或者多次
e.g.   ab*     a   ab  abbbb




*匹配重复1次或多次
元字符 ： + 
匹配规则： 匹配前面正则表达式至少一次


e.g   ab+    ab  abbbbb


In [29]: re.findall('.+\.py$','a.py')
Out[29]: ['a.py']


* 匹配重复0次或1次
元字符： ？ 
匹配规则 ： 匹配前面出现的正则表达式0次或1次
e.g.   ab？   a  ab


In [34]: re.findall('ab?','abcdeabasdfabbbbbb')
Out[34]: ['ab', 'ab', 'a', 'ab']


* 匹配重复指定次数
元字符 ： {N} 
匹配规则 ： 匹配前面的正则表达式N次


e.g.   ab{3}  abbb


*匹配重复指定次数范围


元字符 ： {M,N}
匹配规则 ： 匹配前面的正则表达式 m次到n次


e.g   ab{3,5}  abbb  abbbb  abbbbb


In [39]: re.findall('ab{2,5}','abbcdeabbbabsdfabbbbbb')
Out[39]: ['abb', 'abbb', 'abbbbb']


* 字符集匹配


元字符 ： [abcd]
匹配规则 ： 匹配中括号中的字符集，或者是字符集区间 的一个字符
e.g.  [abcd] ----》 a   b   c  d 
[0-9]  --->  1 3 4 7  匹配任意一个数字字符
[A-Z]  ---》 A D H    匹配任意一个大写字符
[a-z]  ---》 a d f h  匹配任意一个小写字符

多个字符集形式可以写在一起
[+-*/0-9a-g]  + - *  /  4 b


In [42]: re.findall('^[A-Z][0-9a-z]{5}','Hello1 Join')
Out[42]: ['Hello1']


* 字符集不匹配 


元字符 ：  [^ ...]
匹配规则 ： 匹配出字符集中字符的任意一个字符


e.g. [^abcd]  ->    e   f  & #  
     [^0-9] ->  a d g


In [48]: re.findall('[^_0-9a-zA-Z]','levi@126.com')
Out[48]: ['@', '.']


* 匹配任意数字（非数字）字符
元字符 ： \d    [0-9]     \D   [^0-9]
匹配规则： \d 匹配任意一个数字字符    \D 匹配任意非数字字符


In [49]: re.findall('1\d{10}','15100317766')
Out[49]: ['15100317766']


* 匹配任意普通字符（特殊字符）


元字符 ： \w  [_0-9a-zA-Z]   \W  [^_0-9a-zA-Z]
匹配规则 ： \w 匹配数字字母下划线   \W 除了数字字母下划线


* 匹配任意 （非）空字符
元字符 ： \s   \S
匹配规则：  \s  任意空字符  [ \n\0\t\r]  空格 换行  回车 制表
            \S  任意非空字符


In [61]: re.findall('hello\s+\S+','hello l&#l  hello   lucy  hellokadfh')
Out[61]: ['hello l&#l', 'hello   lucy']


* 匹配字符串开头结尾
元字符 ： \A  ^    \Z  $
匹配规则： \A 表示匹配字符串开头位置 
           \Z  表示匹配字符串的结尾位置


e.g.   \Aabc\Z    --->  abc 


* 匹配(非)单词边界 


元字符：  \b    \B 
匹配规则  \b  匹配一个单词的边界
          \B  匹配一个单词的非边界


数字字母下划线和其他字符的交界处认为是单词边界


is "This is  a  test"


In [71]: re.findall(r'\bis\b','This is a test')
Out[71]: ['is']


元字符总结 


字符： 匹配实际字符
匹配单个字符 :   .   \d  \D \w \W  \s  \S   [...]  [^...]
匹配重复次数 ：  *   +   ？  ｛N｝ {M,N}
匹配字串位置 ：  ^   $   \A   \Z   \b  \B
其他 ：   |  


r字串和转义


转义 ：  .   *  ?   $    ""  ''   []  ()  {}  \


r  ---> 将字符串变为 raw 字串
不进行字符串的转义


两种等价的写法
In [87]: re.findall(r'\? \* \\','what? * \\')
Out[87]: ['? * \\']


In [88]: re.findall('\\? \\* \\\\','what? * \\')
Out[88]: ['? * \\']




贪婪和非贪婪


和重复元字符相关
*  +  ？｛m,n｝


贪婪模式 ： 在使用重复元字符的时候（*  +  ？｛m,n｝），元字符的匹配总是尽可能多的向后匹配更多内容，即为贪婪模式。贪婪模式是一种默认情况


e.g.   尽可能多的匹配b
In [90]: re.findall('ab+','abbbbbbalksdjfab')
Out[90]: ['abbbbbb', 'ab']


非贪婪模式 ： 尽可能少的匹配内容，只要满足正则条件即可


贪婪 ---》 非贪婪   *？  +？  ？？  ｛m,n｝?


尽量少匹配
In [95]: re.findall('ab*?','abbbbbbalksdjfab')
Out[95]: ['a', 'a', 'a']


In [96]: re.findall('ab+?','abbbbbbalksdjfab')
Out[96]: ['ab', 'ab']




正则表达式的分组


使用()为正则表达式分组


((ab)cd(ef))  : 表示给ab分了一个子组


1. 正则表达式的子组用（）表示，增加子组后对整体的匹配没有影响
2. 每个正则表达式可以有多个子组，子组由外到内由左到右为第一第二第三。。。。。。子组


3. 子组表示一个内部整体，很多函数可以单独提取子组的值
In [108]: re.match('(ab)cdef','abcdefghig').group(1)
Out[108]: 'ab'


4. 子组可以改变 重复行为，将子组作为一个整体重复
In [111]: re.match('(ab)*','ababababab').group()
Out[111]: 'ababababab'




捕获组和非捕获组 （命名组和非命名组）


格式 ： (?P<name>regex)
(?P<word>ab)cdef


某些函数可以通过名字提取子组内容，或者通过名字进行键值对的生成。


In [112]: re.match('(?P<word>ab)cdef','abcdefghi').group() 
Out[112]: 'abcdef'


起了名字的子组可以通过名称重复使用
(?P=name)


In [114]: re.match('(?P<word>ab)cd(?P=word)','abcdabdfewf').group()
Out[114]: 'abcdab'


练习 ：
匹配长度为8-10位的密码。必须以字母开头，数字字母下划线组成


^[a-zA-Z]\w{7,9}$


匹配身份证号


\d{17}(\d|x)




re模块 


compile(pattern, flags=0)
功能 ： 获取正则表达式对象
参数 ： pattern  正则表达式
flags  功能标志位 提供正则表达式结果的辅助功能
返回值：返回相应的正则对象


* compile 函数返回值的属性函数 和 re模块属性函数有相同的部分


相同点：
*功能完全相同


不同点：
compile返回值对象属性函数参数中没有pattern和flags部分，因为这两个参数内容在compile生成对象时已经指明，而re模块直接调用这些函数时则需要传入


compile返回值对象属性函数参数中有pos 和 endpos参数，可以指明匹配目标字符串的起始位置，而re模块直接调用这些函数时是没有这个




findall(string，pos ，endpos)
功能 ： 将正则表达式匹配到的内容存入一个列表返回
参数 ： 要匹配的目标字符串
返回值： 返回匹配到的内容列表


* 如果正则表达式中有子组，则返回子组的匹配内容


split()
功能： 以正则表达式切割字符串
返回值 ： 分割后的内容放入列表


sub(pattern,re_string,string,count)
功能：用目标字符串替换正则表达式匹配内容
参数：re_string  用什么来替换
      string    要匹配的目标字符串
max     最多替换几处
返回值 ： 返回替换后的字符串


subn()
功能 ： 同sub
参数 ： 同sub
返回值 ： 比sub多一个实际替换的个数




groupindex : compile对象属性 得到捕获组名和第几组数字组成的字典


groups： compile属性，得到一共有多少子组




finditer()
功能 ： 同findall 查找所有正则匹配到的内容
参数：同findall
返回值 ： 返回一个迭代器，迭代的每一项都是一个matchobj


match(pattern, string, flags=0)
功能：匹配一个字符串开头的位置
参数：目标字符串
返回值 ： 如果匹配到返回 一个match obj 
          没匹配到返回None


search
功能：同match 只是可以匹配任意位置，只能匹配一处
参数：目标字符串
返回值 ： 如果匹配到返回 一个match obj 
          没匹配到返回None




fullmatch()  
要求目标字符串能够被正则表达式完全匹配


In [12]: obj = re.fullmatch('\w+','abcd2')


In [13]: obj.group()
Out[13]: 'abcd2'












match 对象属性及函数


'end'
'endpos'
'group'
'groupdict'
'groups'
'lastgroup'
'lastindex'
'pos'
're',
'span'
'start'