python笔记(正则表达式，有爬虫)

正则表达式：
@tool.chinaz.com/regex/ui（正则测试小工具）
@推荐书：《正则指引》

字符组:[字符组]：
在同一个位置可能出现的各种字符组成了一个字符组，在正则表达式中用[]表示

典型：身份证号检测：^[1-9]\d{14}[0-9x]?$

1.re.findall

import re
ret = re.findall('[a-z]+','hellow well good') #findall:返回所有满足匹配条件的结果，放在列表里
print(ret)

输出结果：

[‘hellow’, ‘well’, ‘good’]

2.re.search

ret = re.search('a','eva egon yuan')  #group:从前往后，找到一个就返回，返回的变量需要调用group才能拿到结果
if ret:
   print(ret.group())

输出结果：

a

3.re.match

ret1 = re.match('eva','eva egon yuan')# match:是从头开始匹配，如果正则规则从头开始可以匹配上，就返回一个变量，需要group
ret2 = re.match('va','eva egon yuan')# match:是从头开始匹配，如果正则规则从头开始可以匹配上，就返回一个变量，需要group
if ret1:
    print(ret1.group())
if ret2:
    print(ret2.group())

输出结果：

eva

ret = re.split('[ab]','abcd')` #先按'a'分割得到''和'bcd',再对''和'bcd'分别按'b'分割
print(ret)

输出结果：

[’’, ‘’, ‘cd’]

4.re.sub

ret = re.sub('\d','H','eva3egon4yuan4',1)#将数字替换成'H',参数1表示只替换一个
print(ret)

输出结果：

evaHegon4yuan4

5.re.subn

ret = re.subn('\d','H','eva3egon4yuan4')#将数字替换成'H'，返回元组（替换的结果，替换了多少次）
print(ret)

输出结果：

(‘evaHegonHyuanH’, 3)

6.re.compile

obj = re.compile('\d{3}')#将正则表达式编译成为一个正则表达式对象,规则是要匹配的3个数字
ret = obj.search('abc123eeee')#正则表达式对象调用search，参数为待匹配字符串
print(ret.group())

输出结果：

123

7.re.finditer

ret = re.finditer('\d','ds3sy4784a')  #finditer返回一个存放返回结果的迭代器
print(ret)  #<callable_iterator object at 0x0000014696F9BC88>
print(next(ret).group())  #查看第一个结果
print(next(ret).group())  #查看第二个结果
print([i.group() for i in ret]) #查看剩余的左右结果

输出结果：

<callable_iterator object at 0x0000014696F9BC88>
3
4
[‘7’, ‘8’, ‘4’]

注意：
1.findall的优先级查询

 import re
    ret = re.search('^[1-9]\d{14}(\d{2}[0-9x])?$','610326111111111223')
    print(ret.group())
    print(ret.group(1))                      #可以取分组内的数字（也就是括号里的数据）

输出结果：

610326111111111223
223

ret = re.findall('www.(baidu|oldboy).com','www.oldboy.com')
print(ret)#这是因为findall会优先把匹配结果组内的内容返回

ret = re.findall('www.(?:baidu|oldboy).com','www.oldboy.com')
print(ret)#?:会取消分组优先级

输出结果：

[‘oldboy’]
[‘www.oldboy.com’]

2.split()

ret = re.split("(\d)+","eva3gon4yuan")
print(ret) #在匹配部分加上（）之后所切出的结果是不同的，没有（）的没有保留所匹配选项，但是有（）的却能保留匹配选项

输出结果：

[‘eva’, ‘gon’, ‘yuan’]
[‘eva’, ‘3’, ‘gon’, ‘4’, ‘yuan’]

re的其它常用方法：
（1）re.I(IGNORECASE)忽略大小写，括号内是完整的写法
（2）re.M(MULTILINE)多行模式，改变^和$的行为
（3）re.S(DOTALL)点可以匹配任意字符，包括换行符
（4）re.L(LOCALE)做本地化识别的匹配，表示特殊字符集 \w, \W, \b, \B, \s, \S 依赖于当前环境，不推荐使用
（5）re.U(UNICODE) 使用\w \W \s \S \d \D使用取决于unicode定义的字符属性。在python3中默认使用该flag
（6）re.X(VERBOSE)冗长模式，该模式下pattern字符串可以是多行的，忽略空白字符，并可以添加注释

例题：

1.爬虫练习@非本人代码（代码来自于老男孩教育）

import requests
import re
import json

def getPage(url):
    response = requests.get(url)
    return response.text

def parsePage(s):
    com = re.compile('<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>''.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>', re.S)
    ret = com.finditer(s)
        for i in ret:
            yield {
                "id": i.group("id"),
                "title": i.group("title"),
                "rating_num": i.group("rating_num"),
                "comment_num": i.group("comment_num"),
            }

def main(num):
    url = 'https://movie.douban.com/top250?start=%s&filter=' % num
    response_html = getPage(url)
    ret = parsePage(response_html)
    print(ret)
    f = open("move_info7", "a", encoding="utf8")
    for obj in ret:
        print(obj)
        data = json.dumps(obj, ensure_ascii=False)
        f.write(data + "\n")

if __name__ == '__main__':
    count = 0
    for i in range(10):
        main(count)
        count += 25

2.匹配标签

import re
ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>")#?P<tag_name>：给分组命名    ?P=tag_name：引用分组
#还可以在分组中利用?<name>的形式给分组起名字
#获取的匹配结果可以直接用group('名字')拿到对应的值
print(ret.group('tag_name'))  #结果 ：h1
print(ret.group())  #结果 ：<h1>hello</h1>

ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>")# \1：取第一组
#如果不给组起名字，也可以用\序号来找到对应的组，表示要找的内容和前面的组内容一致
#获取的匹配结果可以直接用group(序号)拿到对应的值
print(ret.group(1))
print(ret.group())  #结果 ：<h1>hello</h1>

输出结果：

h1
<h1>hello</h1>
h1
<h1>hello</h1>

3.匹配整数

import re
ret=re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))")  #字符串前面加'r'是为了防止字符转义
print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']
ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))")
print(ret) #['1', '-2', '60', '', '5', '-4', '3']
ret.remove("")
print(ret) #['1', '-2', '60', '5', '-4', '3']

输出结果：

[‘1’, ‘2’, ‘60’, ‘40’, ‘35’, ‘5’, ‘4’, ‘3’]
[‘1’, ‘-2’, ‘60’, ‘’, ‘5’, ‘-4’, ‘3’]
[‘1’, ‘-2’, ‘60’, ‘5’, ‘-4’, ‘3’]

4.其他典型
1、 匹配一段文本中的每行的邮箱
http://blog.csdn.net/make164492212/article/details/51656638
2、 匹配一段文本中的每行的时间字符串，比如：‘1990-07-12’；
分别取出1年的12个月（^(0?[1-9]|1[0-2])$）、
一个月的31天：^((0?[1-9])|((1|2)[0-9])|30|31)$
3、 匹配qq号。(腾讯QQ号从10000开始) ［1,9］[0,9]{4,}
4、 匹配一个浮点数。 ^(-?\d+)(\.\d+)?$ 或者 -?\d+\.?\d*
5、 匹配汉字。 ^[\u4e00-\u9fa5]{0,}$
6、 匹配出所有整数
7.匹配合法IP

(([0|1][0-9]{0,2}|2[0-5]{0,2}).){0,4}

@惰性匹配
量词后边加问号
.*?abc : 一直取到abc就停
'\d(?P<name>\w)' : 给分组命名（名字对应括号前面的正则表达式）
compile : 编译（当正则表达式很长且要多次使用）
\w : 匹配数字，字母，下划线

作业：实现能计算类似1 - 2 * ( (60-30 +(-40/5) * (9-2*5/3 + 7 /3*99/4*2998 +10 * 568/14 )) - (-4*3)/ (16-3*2) )等类似公式的计算器程序（未写完）

 import re

def dealwith(express):
    #将表达式中符号做处理  +-替换成- --替换成+
    express = express.replace('+-','-')
    express = express.replace('--', '+')
    return express

def cal_exp_son(exp_son):          #只用来计算原子型表达式，两个数之间的乘除法
    if '/' in exp_son:
        a,b = exp_son.split('/')
        return str(float(a)/float(b))
    elif '*' in exp_son:
        a,b = exp_son.split('*')
        return str(float(a) * float(b))

def cal_express_no_bracket(exp):                 #计算没有括号的表达式
    exp = exp.strip('()')                    #去括号
    #先乘后除再加减
    while True:
        ret = re.search('\d+\.?\d*[*/]-?\d+\.?\d*',exp)  #得到第一个乘除两边的数
        if ret:
            exp_son = ret.group()                        #子表达式最简单的乘除法
            ret = cal_exp_son(exp_son)
            exp = exp.replace(exp_son,ret)
            exp = dealwith(exp)
        else:  #说明表达式中没有乘除了
            ret = re.findall('-?\d+\.?\d*',exp)
            sum = 0
            for i in ret:
                sum += float(i)
            return str(sum)


def remove_bracket(new_express):
    while True:
        ret = re.search('\([^()]+\)', new_express)  # 得到内部没有括号的表达式
        if ret:
            express_no_bracket = ret.group()
            ret = cal_express_no_bracket(express_no_bracket)
            new_express = new_express.replace(express_no_bracket,ret)
            new_express = dealwith(new_express)
        else:
            ret = cal_express_no_bracket(new_express)
            return ret

express = '1 - 2 * ( (60-30 +(-40/5) * (9-2*5/3 + 7 /3*99/4*2998 +10 * 568/14 )) - (-4*3)/ (16-3*2) )'
new_express = express.replace(' ','')
res = remove_bracket(new_express)
print(res)
print(1 - 2 * ( (60-30 +(-40/5) * (9-2*5/3 + 7 /3*99/4*2998 +10 * 568/14 )) - (-4*3)/ (16-3*2) ))

输出结果：

2776672.6952380957
2776672.6952380957

大神写的：