什么是正则表达式

正则表达式是对字符串操作的一种逻辑公式，就是 事先定义好的一些特定字符、及这些特定字符的组合，组成一个“规则字符”，这个“规则字符” 来表达对字符的一种过滤逻辑。
正则并不是python独有的，其他语言也都有正则
python中的正则，封装了re模块

python正则的详细讲解

常用的匹配规则

re.match()
尝试从字符串的起始位置匹配一个模式，如果不是起始位置匹配的话，match（）就会返回None
语法格式：
re.match(pattern,string,flags=0)

最常规的匹配

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match('^hello\s\d\d\d\s\d{4}\s\w{10}.*Demo$',content)
print(result)
print(result.group())
print(result.span())

结果如下：

<re.Match object; span=(0, 41), match='hello 123 4567 World_This is a regex Demo'>
hello 123 4567 World_This is a regex Demo
(0, 41)

result.group()获取匹配的结果
result.span()获去匹配字符串的长度范围

泛匹配

其实相对来说上面的方式并不是非常方便，其实可以将上述的正则规则进行更改

import re

content= "hello 123 4567 World_This is a regex Demo"
result = re.match("^hello.*Demo$",content)
print(result)
print(result.group())
print(result.span()

这段代码的结果和上面常规匹配的结果是一样的，但是写起来会方便很多

匹配目标

如果为了匹配字符串中具体的目标，则需要通过（）括起来，例子如下：

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^hello\s(\d+).*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

输出结果如下：

<re.Match object; span=(0, 40), match='hello 1234567 World_This is a regex Demo'>
hello 1234567 World_This is a regex Demo
1234567
(0, 40)

这里需要说一下的是通过re.group()获得结果后，如果正则表达式中有括号，则re.group(1)获取的就是第一个括号中匹配的结果

贪婪匹配

先看下面代码：

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^he.*(\d+).*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

返回结果如下:

<re.Match object; span=(0, 40), match='hello 1234567 World_This is a regex Demo'>
hello 1234567 World_This is a regex Demo
7
(0, 40)

显然从结果中可以看出只匹配到了7，并没有匹配到1234567，出现这种情况的原因是前面的.* 给匹配掉了， .在这里会尽可能的匹配多的内容，也就是我们所说的贪婪匹配，如果我们想要匹配到1234567则需要将正则表达式改为：
result= re.match('^he.?(\d+).*Demo',content)
这样结果就可以匹配到1234567

import re
content= "hello 1234567 World_This is a regex Demo"
result = re.match('^he.*?(\d+).*Demo$',content)
print(result)
print(result.group())
print(result.group(1))
print(result.span())

这样返回的结果就是没有任何问题的了。

匹配模式

很多时候匹配的内容是存在换行的问题的，这个时候的就需要用到匹配模式re.S来匹配换行的内容

import re
content= '''hello 1234567 World_This is a regex Demo
         aiqing 222343 kk'''
result = re.match('^he.*?(\d+).*?(\d+)\skk',content,re.S)
print(result)
print(result.group())
print(result.group(1), result.group(2))
print(result.span())

输出结果：

<re.Match object; span=(0, 66), match='hello 1234567 World_This is a regex Demo\n       >
hello 1234567 World_This is a regex Demo
         aiqing 222343 kk
1234567 222343
(0, 66)

转义

当我们要匹配的内容中存在特殊字符的时候，就需要用到转移符号,例子如下：

import re

content= "price is $5.00"

result = re.match('price is \$5\.00',content)
print(result)
print(result.group())

对上面的一个小结：
尽量使用泛匹配，使用括号得到匹配目标，尽量使用非贪婪模式，有换行符就用re.S
强调re.match是从字符串的起始位置匹配一个模式

re.search

re.search扫描整个字符串返回第一个成功匹配的结果:

import re

content = "extra things hello 123455 world_this is a Re Extra things"
result = re.search('he.*?(\d+).*Re', content)
print(result)
print(result.group())
print(result.group(1))

输出结果：

<re.Match object; span=(13, 44), match='hello 123455 world_this is a Re'>
hello 123455 world_this is a Re
123455

其实这个时候我们就不需要在写^以及$，因为search是扫描整个字符串
注意：所以为了匹配方便，我们会更多的用search，不用match,match必须匹配头部，所以很多时候不是特别方便

匹配演练

例子1：

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

import re

result = re.search('<li.*singer="(.*?)">(.*?)</a></li>', html)
print(result)
print(result.group())
print(result.group(1))
print(result.group(2))

输出结果如下:

<re.Match object; span=(389, 453), match='<li data-view="6"><a href="/4.mp3" singer="beyond>
<li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
beyond
光辉岁月

re.findall

搜索字符串，以列表的形式返回全部能匹配的子串
代码例子如下：

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''
results =re.findall ('<a.*?er="(.*?)">(.*?)</a>', html, re.S)
print(results)
for result in results:
    print(result)

结果如下：

[('任贤齐', '沧海一声笑'), ('齐秦', '往事随风'), ('beyond', '光辉岁月'), ('陈慧琳', '记事本'), ('邓丽君', '但愿人长久')]
('任贤齐', '沧海一声笑')
('齐秦', '往事随风')
('beyond', '光辉岁月')
('陈慧琳', '记事本')
('邓丽君', '但愿人长久')

例子2：

import re

html = '''<div id="songs-list">
    <h2 class="title">经典老歌</h2>
    <p class="introduction">
        经典老歌列表
    </p>
    <ul id="list" class="list-group">
        <li data-view="2">一路上有你</li>
        <li data-view="7">
            <a href="/2.mp3" singer="任贤齐">沧海一声笑</a>
        </li>
        <li data-view="4" class="active">
            <a href="/3.mp3" singer="齐秦">往事随风</a>
        </li>
        <li data-view="6"><a href="/4.mp3" singer="beyond">光辉岁月</a></li>
        <li data-view="5"><a href="/5.mp3" singer="陈慧琳">记事本</a></li>
        <li data-view="5">
            <a href="/6.mp3" singer="邓丽君">但愿人长久</a>
        </li>
    </ul>
</div>'''

results = re.findall('<li.*?>\s*?(<a.*?>)?(\w+)(</a>)?\s*?</li>',html,re.S)
print(results)
for result in results:
    print(result[1])

输出结果如下：

[('任贤齐', '沧海一声笑'), ('齐秦', '往事随风'), ('beyond', '光辉岁月'), ('陈慧琳', '记事本'), ('邓丽君', '但愿人长久')]
沧海一声笑
往事随风
光辉岁月
记事本
但愿人长久

其实这里我们就可以看出
\s? 这种用法其实就是为了解决有的有换行，有的没有换行的问题
(<a.?>)? 这种用法是因为html中有的有a标签，有的没有的，？表示匹配一个或0个，正好可以用于匹配

re.sub

替换字符串中每一个匹配的子串后返回替换后的字符串
re.sub(正则表达式，替换成的字符串，原字符串)
例子1:

import re

html ='Extra things hello 123455 World_this is a regex Demo extra things'
result = re.sub('\d+','',html)
print(result)

输出如下：

Extra things hello  World_this is a regex Demo extra things

例子2:
在有些情况下我们替换字符的时候，还想获取我们匹配的字符串，然后在后面添加一些内容，可以通过下面方式实现：

import re

content = "Extra things hello 12345 World_this is a regex Demo extra things"

content = re.sub('(\d+)',r'\1 6789 ',content)
print(content)

结果如下：

Extra things hello 12345 6789 World_this is a regex Demo extra things

这里需要注意的一个问题是\1是获取第一个匹配的结果，为了防止转义字符的问题，我们需要在前面加上r

re.compile

将正则表达式编译成正则表达式对象，方便复用该正则表达式：

import re
content= """hello 12345 world_this
123 fan
"""
pattern = re.compile('hello.*fan',re.S)
result = re.match(pattern, content)
print(result)

result = re.match('hello.*?fan',content, re.S)
print(result)

输出结果：

<re.Match object; span=(0, 30), match='hello 12345 world_this\n123 fan'>
<re.Match object; span=(0, 30), match='hello 12345 world_this\n123 fan'>

正则的综合练习

爬取豆瓣图书url：https://book.douban.com/latest?icn=index-latestbook-all

我们要爬取图书的网址，书籍名，作者及出版社出版年份，下边给出爬取代码：

import re
import requests

url = 'https://book.douban.com/latest?icn=index-latestbook-all'
headers = {
    'user-agent':'mozilla/5.0'
}
r = requests.get(url , timeout= 20, headers = headers)
# print(r.status_code)
# print(r.text)
content = r.text

results = re.findall('<a class="cover".*?<a href="(.*?)">(.*?)</a>.*?<p class="color-gray">(.*?)</p>', content, re.S)
# print(results)
for result in results:
    print(''.join(result))

返回数据如下：

https://book.douban.com/subject/30419377/重生三部曲
                        [英]派特·巴克 / 上海人民出版社 / 2019-4
                    
https://book.douban.com/subject/30352714/返朴
                        [日]北野武 / 湖南文艺出版社 / 2019-4
                    
https://book.douban.com/subject/30468752/文学少女对数学少女
                        陆秋槎 / 新星出版社 / 2019-4
                    
https://book.douban.com/subject/33390352/风之丘五十元硬币之谜
                        [日]青崎有吾 / 人民文学出版社 / 2019-4
                    
https://book.douban.com/subject/30446954/葛洛根的最后一夜
                        [美]劳伦斯·布洛克 / 四川人民出版社 / 2019-5
                    
https://book.douban.com/subject/30358510/重逢
                        [英]弗雷德·乌尔曼 / 理想国丨广西师范大学出版社 / 2019-4
                    
https://book.douban.com/subject/30471298/2001：太空漫游
                        [英]阿瑟·克拉克 / 上海文艺出版社 / 2019-5
                    
https://book.douban.com/subject/30330181/棋王
                        阿城 / 上海三联书店 / 2019-4
                    
https://book.douban.com/subject/30439891/天才雷普利
                        [美]帕特里夏·海史密斯 / 上海译文出版社 / 2019-3
                    
https://book.douban.com/subject/26902565/卡洛琳字体
                        [英] 安德鲁·泰勒 / 新星出版社 / 2019-4
                    
https://book.douban.com/subject/30449796/林荫幽径
                        [俄]伊凡·蒲宁 / 漓江出版社 / 2019-5
                    
https://book.douban.com/subject/30426201/银河边缘003：天象祭司
                        杨枫 / [美]迈克·雷斯尼克 主编 / 人民文学出版社 / 2019-3
                    
https://book.douban.com/subject/33377958/大卫
                        YiLi / 后浪丨四川文艺出版社 / 2019-5
                    
https://book.douban.com/subject/30389739/护身符1
                        [美] 木部石 / 后浪丨湖南美术出版社 / 2019-5
                    
https://book.douban.com/subject/30441529/香河
                        [美]罗伯特·奥伦·巴特勒 / 广西师范大学出版社 / 2019-4-7
                    
https://book.douban.com/subject/30388865/煎饼坪
                        [美] 约翰·斯坦贝克 / 人民文学出版社 / 2019-3
                    
https://book.douban.com/subject/27172218/全面回忆
                        [美]菲利普·迪克 / 四川科学技术出版社 / 2019-3-1
                    
https://book.douban.com/subject/30466169/记号
                        [马其顿]布拉热·米内夫斯基 / 上海文艺出版社 / 2019-3-1
                    
https://book.douban.com/subject/30376524/救赎游戏
                        张弛 / 上海社会科学院出版社 / 2019-4
                    
https://book.douban.com/subject/30459864/恐龙大冒险
                        [日] 黑川光广 / 后浪丨湖南美术出版社 / 2019-4
                    
https://book.douban.com/subject/30473907/坏血
                        [美]约翰·卡雷鲁（John Carreyrou） / 雅众文化/北京联合出版公司 / 2019-4
                    
https://book.douban.com/subject/30421672/现实的社会建构
                        [美] 彼得·伯格 / [美] 托马斯·卢克曼 / 北京大学出版社 / 2019-3
                    
https://book.douban.com/subject/30384144/乌鸦
                        (美) 博里亚·萨克斯 / 南京大学出版社 / 2019-4
                    
https://book.douban.com/subject/33385896/技术垄断
                        [美]尼尔•波斯曼（Neil Postman） / 中信出版社 / 2019-4-1
                    
https://book.douban.com/subject/33395164/北京：公共空间和城市生活
                        [美] 韩书瑞（Susan Naquin） / 中国人民大学出版社 / 2019-3-28
                    
https://book.douban.com/subject/30488073/历史的叙述方式
                        茅海建 / 上海三联书店 / 2019-4
                    
https://book.douban.com/subject/30488568/绩效使能：超越OKR
                        况阳 / 机械工业出版社 / 2019-3
                    
https://book.douban.com/subject/30319980/布罗茨基谈话录
                        [美] 约瑟夫·布罗茨基 / 作家出版社 / 2019-4
                    
https://book.douban.com/subject/32567709/五四的另一面
                        杨念群 / 上海人民出版社 / 2019-4
                    
https://book.douban.com/subject/30481485/小学二年级就能读懂的经济学
                        [日] 坂井丰贵 / 后浪丨江西人民出版社 / 2019-3
                    
https://book.douban.com/subject/33403994/布罗茨基诗歌全集 第一卷（上）
                        [美] 约瑟夫·布罗茨基 / 上海译文出版社 / 2019-4-30
                    
https://book.douban.com/subject/30435866/一茶，猫与四季
                        小林一茶 / 东方出版中心 / 2019-3-1
                    
https://book.douban.com/subject/30487925/鲤·写作课
                        张悦然 主编 / 理想国 | 九州出版社 / 2019-3
                    
https://book.douban.com/subject/30312119/美之地图
                        [罗马尼亚]米哈埃拉•诺洛茨 / 广西师范大学出版社 / 2019-3
                    
https://book.douban.com/subject/30483768/秋水堂论金瓶梅
                        田晓菲 / 广西师范大学出版社 / 2019-3
                    
https://book.douban.com/subject/30169991/中国传统家具图史
                        何宝通 / 后浪丨北京联合出版公司 / 2019-3
                    
https://book.douban.com/subject/30449800/写作之书
                        [美] 保拉·拉罗克 / Paula LaRocque / 后浪丨江西人民出版社 / 2019-5
                    
https://book.douban.com/subject/30428815/起源
                        [美] 大卫·克里斯蒂安 / 中信出版社·见识城邦 / 2019-4-10
                    
https://book.douban.com/subject/30296201/鸟类的天赋
                        [美]珍妮弗·阿克曼 / 译林出版社 / 2019-4-30
                    
https://book.douban.com/subject/30400716/异端
                        [美]史蒂文·纳德勒[美]本·纳德勒 / 南海出版公司 / 2019-3-1

爬取的代码有好多种，我写的是最菜的一种，希望大佬可以给出更加简单的代码。
送大家一个福利：

import re
import requests

url = 'http://www.6363cf.com/Html/89/'
headers = {
    'user-agent':'mozilla/5.0'
}
r = requests.get(url , timeout= 20, headers = headers)
print(r.status_code)
content = r.content
html = content.decode('utf-8')
print(html)
print(type(html))

results = re.findall(r'<img src="(.*?)".*?/><!--.*?\[endif\]--></span><h3>(.*?)</h3></a></li><li><a', html, re.S)
#print(results)
for result in results:
    print('\n'.join(result))

输出结果如下：