re模块

最新推荐文章于 2024-05-20 12:42:00 发布

detp80716

最新推荐文章于 2024-05-20 12:42:00 发布

阅读量73

点赞数

文章标签： json python 爬虫

原文链接：http://www.cnblogs.com/shi-guang/p/8251885.html

版权

正则表达式：

　　现在有一个需求收集用户的手机号，如何根据手机号码一共11位并且是只以13、14、15、18开头的数字的特点用代码实现？

while True:
    phone_number = input('please input your phone number ： ')
    if len(phone_number) == 11 \
            and phone_number.isdigit()\
            and (phone_number.startswith('13') \
            or phone_number.startswith('14') \
            or phone_number.startswith('15') \
            or phone_number.startswith('18')):
        print('是合法的手机号码')
    else:
        print('不是合法的手机号码')

基础版本

import re
phone_number = input('please input your phone number ： ')
if re.match('^(13|14|15|18)[0-9]{9}$',phone_number):
        print('是合法的手机号码')
else:
        print('不是合法的手机号码')

使用正则

正则表达式：就是匹配字符串内容的一种规则。

　　官方定义：正则表达式是对字符串操作的一种逻辑公式，就是用事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符串”，这个“规则字符串”用来表达对字符串的一种过滤逻辑。

　　正则表达式在线测试工具 http://tool.chinaz.com/regex/，可以帮助学习以下内容：

　　字符组： [字符组]

　　在同一个位置可能出现的各种字符组成了一个字符组，在正则表达式中用[]表示
　　字符分为很多类，比如数字、字母、标点等等。
　　假如你现在要求一个位置"只能出现一个数字",那么这个位置上的字符只能是0、1、2...9这十个数之一。

字符：

量词：

特殊符号：

. ^ $

*+?{}

注意：前面的*,+,?等都是贪婪匹配，也就是尽可能匹配，后面加?号使其变成惰性匹配

分组 ()与或｜［^］

　　使用正则来表示身份证号码，特点：

　　　　身份证号码是一个长度为15或18个字符的字符串，如果是15位则全部由数字组成，首位不能为0；如果是18位，则前17位全部是数字，末位可能是数字或x

转义符 \

正则表达式中，有很多有特殊意义的是元字符，比如\d和\s等，如果要在正则中匹配正常的"\d"而不是"数字"就需要对"\"进行转义，变成'\\'。

在python中，无论是正则表达式，还是待匹配的内容，都是以字符串的形式出现的，在字符串中\也有特殊的含义，本身还需要转义。所以如果匹配一次"\d",字符串中要写成'\\d'，那么正则里就要写成"\\\\d",这样就太麻烦了。这个时候我们就用到了r'\d'这个概念，此时的正则是r'\\d'就可以了。

贪婪匹配：

贪婪匹配：在满足匹配时，匹配尽可能长的字符串，默认情况下，采用贪婪匹配

几个常用的非贪婪匹配组合

#    *? 重复任意次，但尽可能少重复
#    +? 重复1次或更多次，但尽可能少重复
#    ?? 重复0次或1次，但尽可能少重复
#    {n,m}? 重复n到m次，但尽可能少重复
#    {n,}? 重复n次以上，但尽可能少重复

.*?的用法

#    . 是任意字符
#    * 是取 0 至 无限长度
#    ? 是非贪婪模式。
#    合在一起就是 取尽量少的任意字符，一般不会这么单独写，多使用如下格式：
#
#    .*?x
#
#    就是取前面任意长度的字符，直到一个x出现

re模块下正则的常用方法

import re

ret = re.findall('a', 'eva egon yuan')  # 返回所有满足匹配条件的结果,放在列表里
print(ret) #结果 : ['a', 'a']

ret = re.search('a', 'eva egon yuan').group()
print(ret) #结果 : 'a'
# 函数会在字符串内查找模式匹配,只到找到第一个匹配然后返回一个包含匹配信息的对象,该对象可以
# 通过调用group()方法得到匹配的字符串,如果字符串没有匹配，则返回None。

ret = re.match('a', 'abc').group()  # 同search,不过尽在字符串开始处进行匹配
print(ret)
#结果 : 'a'

ret = re.split('[ab]', 'abcd')  # 先按'a'分割得到''和'bcd',在对''和'bcd'分别按'b'分割
print(ret)  # ['', '', 'cd']

ret = re.sub('\d', 'H', 'eva3egon4yuan4', 1)#将数字替换成'H'，参数1表示只替换1个
print(ret) #evaHegon4yuan4

ret = re.subn('\d', 'H', 'eva3egon4yuan4')#将数字替换成'H'，返回元组(替换的结果,替换了多少次)
print(ret)

obj = re.compile('\d{3}')  #将正则表达式编译成为一个 正则表达式对象，规则要匹配的是3个数字
ret = obj.search('abc123eeee') #正则表达式对象调用search，参数为待匹配的字符串
print(ret.group())  #结果 ： 123

import re
ret = re.finditer('\d', 'ds3sy4784a')   #finditer返回一个存放匹配结果的迭代器
print(ret)  # <callable_iterator object at 0x10195f940>
print(next(ret).group())  #查看第一个结果
print(next(ret).group())  #查看第二个结果
print([i.group() for i in ret])  #查看剩余的左右结果

注意：

1 findall的优先级查询：

import re

ret = re.findall('www.(baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['oldboy']     这是因为findall会优先把匹配结果组里内容返回,如果想要匹配结果,取消权限即可

ret = re.findall('www.(?:baidu|oldboy).com', 'www.oldboy.com')
print(ret)  # ['www.oldboy.com']

2 split的优先级查询

ret=re.split("\d+","eva3egon4yuan")
print(ret) #结果 ： ['eva', 'egon', 'yuan']

ret=re.split("(\d+)","eva3egon4yuan")
print(ret) #结果 ： ['eva', '3', 'egon', '4', 'yuan']

#在匹配部分加上（）之后所切出的结果是不同的，
#没有（）的没有保留所匹配的项，但是有（）的却能够保留了匹配的项，
#这个在某些需要保留匹配部分的使用过程是非常重要的。

练习

1、匹配标签

import re


ret = re.search("<(?P<tag_name>\w+)>\w+</(?P=tag_name)>","<h1>hello</h1>")
#还可以在分组中利用?<name>的形式给分组起名字
#获取的匹配结果可以直接用group('名字')拿到对应的值
print(ret.group('tag_name'))  #结果 ：h1
print(ret.group())  #结果 ：<h1>hello</h1>

ret = re.search(r"<(\w+)>\w+</\1>","<h1>hello</h1>")
#如果不给组起名字，也可以用\序号来找到对应的组，表示要找的内容和前面的组内容一致
#获取的匹配结果可以直接用group(序号)拿到对应的值
print(ret.group(1))
print(ret.group())  #结果 ：<h1>hello</h1>

标签匹配

2、匹配整数

#需求：匹配出1-2*(60+(-40.35/5)-(-4*3))中的整数，其中-40.35为浮点数
#参见如下方式逐步取出整数

import re

ret=re.findall(r"\d+","1-2*(60+(-40.35/5)-(-4*3))") #此处将40.35分作两个整数取出
print(ret) #['1', '2', '60', '40', '35', '5', '4', '3']
ret=re.findall(r"-?\d+\.\d*|(-?\d+)","1-2*(60+(-40.35/5)-(-4*3))") #筛选出非浮点数，但浮点数40.35被剔除后留下一个空元素
print(ret) #['1', '-2', '60', '', '5', '-4', '3']
ret.remove("") #移除空元素
print(ret) #['1', '-2', '60', '5', '-4', '3']

匹配整数

3、数字匹配

#1、 匹配一段文本中的每行的邮箱
    # 示例1:只允许英文字母、数字、下划线、英文句号、以及中划线组成
    # zhangsan-001@gmail.com
    # 分析邮件名称部分：

    # 26个大小写英文字母表示为a-zA-Z
    # 数字表示为0-9
    # 下划线表示为_
    # 中划线表示为-
    # 由于名称是由若干个字母、数字、下划线和中划线组成，所以需要用到+表示多次出现
    # 根据以上条件得出邮件名称表达式：[a-zA-Z0-9_-]+

    # 分析域名部分：
    #
    #  一般域名的规律为“[N级域名][三级域名.]二级域名.顶级域名”，比如“qq.com”、“www.qq.com”、“mp.weixin.qq.com”、“12-34.com.cn”，
    # 分析可得域名类似“** .** .** .**”组成。
    #
    # “**”部分可以表示为[a-zA-Z0-9_-]+
    # “.**”部分可以表示为\.[a-zA-Z0-9_-]+
    # 多个“.**”可以表示为(\.[a-zA-Z0-9_-]+)+
    #  综上所述，域名部分可以表示为[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+
    #
    # 最终表达式：
    #  由于邮箱的基本格式为“名称@域名”，需要使用“^”匹配邮箱的开始部分，用“$”匹配邮箱结束部分以保证邮箱前后不能有其他字符，
    # 所以最终邮箱的正则表达式为： ^[a-zA-Z0-9_-]+@[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+$

# 实例2、名称允许汉字、字母、数字，域名只允许英文域名

    # 举例：杨元庆001Abc@lenovo.com.cn
    
    # 分析邮件名称部分：
    #
    # 汉字在正则表示为[\u4e00-\u9fa5]
    # 字母和数字表示为A-Za-z0-9
    # 通过分析得出邮件名称部分表达式为[A-Za-z0-9\u4e00-\u9fa5]+

    # 分析邮件域名部分
    #
    #  邮件部分可以参考实例1中的分析域名部分。
    #  得出域名部分的表达式为[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+。
    #
    # 最终表达式：
    #  我们用@符号将邮箱的名称和域名拼接起来，因此完整的邮箱表达式为
    #   ^[A-Za-z0-9\u4e00-\u9fa5]+@[a-zA-Z0-9_-]+(\.[a-zA-Z0-9_-]+)+$

匹配一段文本中的每行的邮箱

# 2、 匹配一段文本中的每行的时间字符串，比如：‘1990-07-12’；
#
#     分别取出1年的12个月（^(0?[1-9]|1[0-2])$）、
#     一个月的31天：^((0?[1-9])|((1|2)[0-9])|30|31)$

# 3、 匹配qq号。(腾讯QQ号从10000开始)  ［1,9］[0,9]{4,}
# 
# 4、 匹配一个浮点数。       ^(-?\d+)(\.\d+)?$   或者  -?\d+\.?\d*
# 
# 5、 匹配汉字。             ^[\u4e00-\u9fa5]{0,}$

View Code

4、爬虫练习

import requests

import re
import json

def getPage(url):

    response=requests.get(url)
    return response.text

def parsePage(s):
    
    com=re.compile('<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
                   '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>',re.S)

    ret=com.finditer(s)
    for i in ret:
        yield {
            "id":i.group("id"),
            "title":i.group("title"),
            "rating_num":i.group("rating_num"),
            "comment_num":i.group("comment_num"),
        }

def main(num):

    url='https://movie.douban.com/top250?start=%s&filter='%num
    response_html=getPage(url)
    ret=parsePage(response_html)
    print(ret)
    f=open("move_info7","a",encoding="utf8")

    for obj in ret:
        print(obj)
        data=json.dumps(obj,ensure_ascii=False)
        f.write(data+"\n")

if __name__ == '__main__':
    count=0
    for i in range(10):
        main(count)
        count+=25

View Code

import re
import json
from urllib.request import urlopen

def getPage(url):
    response = urlopen(url)
    return response.read().decode('utf-8')

def parsePage(s):
    com = re.compile(
        '<div class="item">.*?<div class="pic">.*?<em .*?>(?P<id>\d+).*?<span class="title">(?P<title>.*?)</span>'
        '.*?<span class="rating_num" .*?>(?P<rating_num>.*?)</span>.*?<span>(?P<comment_num>.*?)评价</span>', re.S)

    ret = com.finditer(s)
    for i in ret:
        yield {
            "id": i.group("id"),
            "title": i.group("title"),
            "rating_num": i.group("rating_num"),
            "comment_num": i.group("comment_num"),
        }


def main(num):
    url = 'https://movie.douban.com/top250?start=%s&filter=' % num
    response_html = getPage(url)
    ret = parsePage(response_html)
    print(ret)
    f = open("move_info7", "a", encoding="utf8")

    for obj in ret:
        print(obj)
        data = str(obj)
        f.write(data + "\n")

count = 0
for i in range(10):
    main(count)
    count += 25

简化版

flags有很多可选值：

re.I(IGNORECASE)忽略大小写，括号内是完整的写法
re.M(MULTILINE)多行模式，改变^和$的行为
re.S(DOTALL)点可以匹配任意字符，包括换行符
re.L(LOCALE)做本地化识别的匹配，表示特殊字符集 \w, \W, \b, \B, \s, \S 依赖于当前环境，不推荐使用
re.U(UNICODE) 使用\w \W \s \S \d \D使用取决于unicode定义的字符属性。在python3中默认使用该flag
re.X(VERBOSE)冗长模式，该模式下pattern字符串可以是多行的，忽略空白字符，并可以添加注释

转载于:https://www.cnblogs.com/shi-guang/p/8251885.html

detp80716

关注

0
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
re模块

正则表达式：　　现在有一个需求收集用户的手机号，如何根据手机号码一共11位并且是只以13、14、15、18开头的数字的特点用代码实现？while True: phone_number = input('please input your phone number ： ') if len(phone_number) == 11 \ ...
复制链接

扫一扫