一、什么是正则表达式?
- 正则表达式,又称规则表达式,通常被用来检索、替换那些符合某个模式(规则)的文本。
- 正则表达式是对字符串操作的一种逻辑公式,就是用事先定义好的一些特定字符、及这些特定字符的组合,组成一个“规则字符串”,这个“规则字符串”用来表达对字符串的一种过滤逻辑。
二、正则表达式的匹配规则
1.表示字符
- ·:匹配任意除换行符\’\\n\’外的字符,但是在DOTALL模式中也可以匹配换行符\’\\n\’
- \\:转义字符,使后一个字符改变原来的意思,如果字符串中想匹配*,可以使用\\*,也可以使用字符集[*]
- […]:字符集,匹配字符集中列出的任意字符。字符可以逐个列出,也可以给出范围,比如[a-z],[0-9],第一个字符是^表示取反。所有特殊字符在字符集中都失去其原有的特殊含义。如果想使用\’]\’,\’-\’或者\’^\’,可以在前面加上\\,或者将]或者-放在首位,将^放在非首位
2.预定义字符集(可写在字符集[]中)
- \\d:数字[0-9]
- \\D:非数字[^0-9]
- \\s:空白字符[<空格>,\\t,\\n,\\r,\\f,\\v]
- \\S:非空白字符[^\\s]
- \\w:单词字符[a-zA-Z0-9_]
- \\W:非单词字符[^\\w]
3.表示数量
- *:匹配前一个字符0次或无限次,即可有可无
- +:匹配前一个字符出现1次或者无限次,即至少有1次
- {m}:匹配前一个字符出现m次
- {m,}:匹配前一个字符至少出现m次
- {,n}:匹配前一个字符至多出现n次
- {m,n}:匹配前一个字符出现从m到n次
4.表示边界
- ^:匹配字符串开头。在多行模式中匹配每一行的开头
- $:匹配字符串结尾。在多行模式中匹配每一行的结尾
- \\A:仅匹配字符串开头
- \\Z:仅匹配字符串结尾
- \\b:匹配单词边界,\\w和\\W之间
- \\B:匹配非单词边界,[^\\b]
5.匹配分组
- |:匹配左右任意一个表达式
- (…):被括起来的表达式作为一个分组,从表达式左边开始,每遇到一个\'(\’,编号+1。分组表达式作为一个整体,后面可接数量词。表达式中的|仅在该分组中有效
- (?P<name>):分组,除了原有的编号以外,再给分组取一个别名
- (?P=<name>):引用别名为<name>的分组匹配到的字符串
- \\<number>:引用编号为<number>的分组匹配到的字符串
6.特殊构造(不作为分组)
- (?:…):(…)的不分组版本,用于使用\’|\’或后面接上数量词,比如(?:[1-9]?\\d|100)表示匹配数字0-100,(?:abc){2}表示匹配abcabc
- 剩下的一些不常见,略
三、re模块
在 Python中,我们可以使用内置的 re 模块来使用正则表达式。与大多数编程语言相同,正则表达式里使用\’\\\’作为转义字符,这就可能造成反斜杠困扰。Python里的原生字符串很好地解决了这个问题,只需要在字符串前面加上\’r\’前缀。
re模块的一般使用步骤:
-
使用
compile()
函数将正则表达式的字符串形式编译为一个&nad8bsp;
Pattern
对象
-
通过
Pattern
对象提供的一系列方法对文本进行匹配查找
1.compile函数
- compile 函数用于编译正则表达式,生成一个 Pattern 对象。必须传入的第一个参数是\’规则字符串\’,另外可以通过第二个参数(flags)来指定匹配模式。
- 常见的匹配模式:
- re.I(re.IGNORECASE): 忽略大小写
- re.M(MULTILINE): 多行模式,改变’^’和’$’的行为
- re.S(DOTALL): 点任意匹配模式,改变’.’的行为,可以匹配\’\\n\’
import re# 将正则表达式编译成 Pattern对象,并指定匹配模式为点任意匹配模式pattern = re.compile(r\'\\d+\',re.S)
2.Pattern 对象的一些常用方法
-
match方法
match 方法用于查找字符串的头部(也可以指定起始位置),它是一次匹配,只要找到了一个匹配的结果就返回,而不是查找所有匹配的结果。
- 它的一般使用形式如下:
match(string[, pos[, endpos]])
其中,string 是待匹配的字符串,pos 和 endpos 是可选参数,指定字符串的起始和终点位置,默认值分别是 0 和 len (字符串长度)。因此,当你不指定 pos 和 endpos 时,match 方法默认匹配字符串的头部。
- 当匹配成功时,返回一个 Match 对象,如果没有匹配上,则返回 None。
- Match对象常用的方法:group(([group1, …]):用于获得一个或多个分组匹配的字符串,如果传入多个分组编号,则返回的结果为元组形式。当要获得整个匹配的子串时,可直接使用 group() 或 group(0);
- groups():获得所有分组匹配到的字符串所构成的元组
- start([group]) 方法用于获取分组匹配的子串在整个字符串中的起始位置(子串第一个字符的索引),参数默认值为 0;
- end([group]) 方法用于获取分组匹配的子串在整个字符串中的结束位置(子串最后一个字符的索引+1),参数默认值为 0;
- span([group]) 方法返回 (start(group), end(group)),获取分组匹配的子串在整个字符串中的起始和结束位置构成的元组。
- 通过一些例子来熟悉一下:
In [1]: import reIn [2]: pattern = re.compile(r\"(\\w+) (\\d+)\")In [3]: m = pattern.match(\'hello 123\')In [4]: m.group(1)Out[4]: \'hello\'In [5]: m.group(1,2)Out[5]: (\'hello\', \'123\')In [6]: m.group()Out[6]: \'hello 123\'In [7]: m.groups()Out[7]: (\'hello\', \'123\')In [8]: m.start(1)Out[8]: 0In [9]: m.start(2)Out[9]: 6In [10]: m.end(1)Out[10]: 5In [11]: m.span(1)Out[11]: (0, 5)In [12]: m.span(2)Out[12]: (6, 9)
search方法
- search 方法用于查找字符串的任何位置,它也是一次匹配,只要找到了一个匹配的结果就返回,而不是查找所有匹配的结果
search(string[, pos[, endpos]])
其中,string 是待匹配的字符串,pos 和 endpos 是可选参数,指定字符串的起始和终点位置,默认值分别是 0 和 len (字符串长度)。
>>> import re>>> pattern = re.compile(\'\\d+\')>>> m = pattern.search(\'one12twothree34four\') # 这里如果使用 match 方法则不匹配>>> m<_sre.SRE_Match object at 0x10cc03ac0>>>> m.group()\'12\'>>> m = pattern.search(\'one12twothree34four\', 10, 30) # 指定字符串区间>>> m<_sre.SRE_Match object at 0x10cc03b28>>>> m.group()\'34\'>>> m.span()(13, 15)
findall方法
- 上面的 match 和 search 方法都是一次匹配,只要找到了一个匹配的结果就返回。然而,在大多数时候,我们需要搜索整个字符串,获得所有匹配的结果。
findall(string[, pos[, endpos]])
其中,string 是待匹配的字符串,pos 和 endpos 是可选参数,指定字符串的起始和终点位置,默认值分别是 0 和 len (字符串长度)。
import re#re模块提供一个方法叫compile模块,提供我们输入一个匹配的规则#然后返回一个pattern实例,我们根据这个规则去匹配字符串pattern = re.compile(r\'\\d+\\.\\d*\')#通过partten.findall()方法就能够全部匹配到我们得到的字符串result = pattern.findall(\"123.141593, \'bigcat\', 232312, 3.15\")#findall 以 列表形式 返回全部能匹配的子串给resultfor item in result:print(item)
运行结果:
123.1415933.15
finditer方法
- finditer 方法的行为跟 findall1b1c的行为类似,也是搜索整个字符串,获得所有匹配的结果。但它返回一个顺序访问每一个匹配结果(Match 对象)的迭代器。
In [1]: import reIn [2]: pattern = re.compile(r\"\\d+\")In [3]: iter = pattern.finditer(\'hello123world456 haha789\')In [4]: iterOut[4]: <callable_iterator at 0x7fb824fe2a90>In [5]: for m in iter:...: print(m.group())...:123456789
split方法
- split 方法按照能够匹配的子串将字符串分割后返回列表
split(string[, maxsplit])
其中,maxsplit 用于指定最大分割次数,不指定将全部分割。
In [1]: import reIn [2]: pattern = re.compile(r\"[\\d\\s]\")In [3]: pattern.split(\'hello1word2aaa bbb\')Out[3]: [\'hello\', \'word\', \'aaa\', \'bbb\']In [4]: pattern.split(\'hello1word2aaa bbb\',2)Out[4]: [\'hello\', \'word\', \'aaa bbb\']
sub方法
- sub 方法用于替换。
sub(repl, string[, count])
其中,repl 可以是字符串也可以是一个函数:
如果 repl 是字符串,则会使用 repl 去替换字符串每一个匹配的子串,并返回替换后的字符串,另外,repl 还可以使用 id 的形式来引用分组,但不能使用编号 0;
In [1]: import reIn [2]: pattern = re.compile(r\'\\d+\')In [3]: pattern.sub(\'100\',\'hello20 world30\')#将所有匹配到的数据替换成100Out[3]: \'hello100 world100\'In [4]: pattern.sub(\'100\',\'hello20 world30\',1)#只替换第一个数据为100Out[4]: \'hello100 world30\'In [5]: def add(temp):...: \'\'\'将匹配到的数据加1\'\'\'...: strNum = temp.group()...: num = int(strNum)+1...: return str(num)In [6]: pattern.sub(add,\'hello20 world30\')#将所有匹配到的数据加1Out[6]: \'hello21 world31\'In [7]: pattern.sub(add,\'hello20 world30\',1)#只将匹配到的第一个数据加1Out[7]: \'hello21 world30\'
四、贪婪模式与非贪婪模式
- 贪婪模式:在整个表达式匹配成功的前提下,尽可能多的匹配
- 非贪婪模式:在整个表达式匹配成功的前提下,尽可能少的匹配
- 在表示数量的\”*\”,\”?\”,\”+\”,\”{m,n}\”后面加上?,使贪婪变成非贪婪
In [1]: import reIn [2]: pattern = re.compile(r\'\\d+\')In [3]: pattern.match(\'123456789\').group()Out[3]: \'123456789\'In [4]: pattern = re.compile(r\'\\d+?\')#关闭贪婪模式In [5]:56cpattern.match(\'123456789\').group()#非贪婪模式下,?只匹配一个字符Out[5]: \'1\'In [6]: pattern = re.compile(r\'<div>.*</div>\')In [7]: pattern.match(\'<div>test1</div>bb<div>test2</div>\').group()Out[7]: \'<div>test1</div>bb<div>test2</div>\'In [8]: pattern = re.compile(r\'<div>.*?</div>\')#关闭贪婪模式In [9]: pattern.match(\'<div>test1</div>bb<div>test2</div>\').group()Out[9]: \'<div>test1</div>\'