shell命令之sed

一、sed介绍

sed 是一种在线的、非交互式的编辑器，它一次处理一行内容。
处理时，先把当前处理的行内容存储在临时缓冲区中，称为“模式空间”（pattern space）。
之后再用sed命令处理缓冲区中的内容，处理完成后，把缓冲区的内容打印到屏幕。
接着处理下一行，这样不断重复，直到文件末尾。
注意：模式空间的内容和 AWK 中的 $0 是一样的，处理每行的时候，都会被重新赋值为当前行的内容
文件内容并没有改变，除非你使用重定向存储输出。
Sed主要用来自动编辑一个或多个文件；简化对文件的反复操作；编写转换程序等。

二、命令格式

[root@linux-server ~]#  cat test.txt
1:root:x:0:0:root:/root:/bin/bash
2:bin:x:1:1:bin:/bin:/sbin/nologin
3:daemon:x:2:2:daemon:/sbin:/sbin/nologin
4:adm:x:3:4:adm:/var/adm:/sbin/nologin
5:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
6:sync:x:5:0:sync:/sbin:/bin/sync
7:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
8:halt:x:7:0:halt:/sbin:/sbin/halt
9:mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
10:operator:x:11:0:operator:/root:/sbin/nologin

处理单个文件的命令格式

[root@linux-server ~]#  sed [options] '[匹配模式] sed 的内部命令' file1
例
[root@linux-server ~]#  sed -i 's/root/toor/g' test.txt

处理多个文件的命令格式

[root@linux-server ~]#  sed [options] '[匹配模式] [sed 的内部命令]' file1 file2
例
[root@linux-server ~]#  sed -i 's/root/toor/g' test1.txt test2.txt

匹配模式是用于在文件中每一行进行匹配到模式，模式可以是正则，也可以是文件的行号，
sed和grep不一样，不管是否找到指定的模式，它的退出状态都是0，只有当命令存在语法错误时，sed的退出状态才是非0。

三、支持正则表达式

与grep一样，sed在文件中查找模式时也可以使用正则表达式(RE)和各种元字符。正则表达式是在斜杠间的模式，用于查找和替换，以下是sed支持的元字符。
使用基本元字符集 ^, $, ., *, [], [^], \< \>,\(\),\{\}
使用扩展元字符集 ?, +, { }, |, ( )使用扩展元字符的方式：

[root@linux-server ~]# sed -r 's/^root/admin/g' test.txt

在实际使用的时候，都会加上 -r 参数，即使没有用的扩展正则也不会有任何影响。

四、sed基本用法

打印

sed 默认会输出文件的每一行，无论这行内容是否能匹配上匹配模式，假如被匹配到的则会再输出一次。

[root@linux-server ~]# sed -r '' test.txt
[root@linux-server ~]# sed -r 'p' test.txt

p 是 sed 的内部命令，是 打印（输出） 的作用

屏蔽默认输出使用 -n 选项

[root@linux-server ~]# sed -rn 'p' test.txt
[root@linux-server ~]# sed -rn '/root/p' test.txt
 显示root的行  
[root@linux-server ~]# sed -rn '/^root/p' test.txt
 ^root 匹配root开头

搜索替换

sed会自动打印文件的每一行，同时查找模式匹配的行，找到后执行后面的命令，默认是 p 打印（不加 -n 的情况下）

搜索每一行，找到有 root 的，把第一个替换为 admin
[root@linux-server ~]# sed -r 's/root/admin/' test.txt
搜索每一行，找到所有的 root 字符，进行全局替换为 `admin`
[root@linux-server ~]# sed -r 's/root/admin/g' test.txt
i  是同时忽略大小写
[root@linux-server ~]# sed -r 's/root/admin/gi' test.txt 
找到含有 root 的进行删除
[root@linux-server ~]# sed -r '/root/d' test.txt
可以使用不同的 字符 作为界定符号，注意进行转义
[root@linux-server ~]# sed -r '\#root#d' test.txt

注意：
当在模式匹配中使用其他界定符号时，需要对其进行转义。
其他界定符用在 s 搜索替换时不必转义。例如：

[root@linux-server ~]# sed -r 's#root#admin#' test.txt
[root@linux-server ~]# sed -r 's%root%admin%' test.txt
[root@linux-server ~]# sed -r 's|root|admin|' test.txt

五、sed扩展

地址（定址）
地址用于决定对哪些 行 进行编辑。地址形式可以是数字、正则表达式或二者的结合。如果没有指定地址，sed将处理输入文件中的所有行。

全部分删除
[root@linux-server ~]# sed -r 'd' test.txt
第 3 行删除
[root@linux-server ~]# sed -r '3 d' test.txt
第 1 行到第 3 行都删除
[root@linux-server ~]# sed -r '1,3 d' test.txt
含有 root 字符串的行删除
[root@linux-server ~]# sed -r '/root/ d' test.txt
从含有 root 字符串的行开始删除，总共删除 5 行，5 行中包含了 被匹配成功的行
[root@linux-server ~]# sed -r '/root/,5 d' test.txt
从含有 halt 的行开始删除，并删除此行之后的 2 行，就是总共删除 3 行
[root@linux-server ~]# sed -r '/halt/,+2 d' test.txt
含有 root 的行不删除，其他都删除
[root@linux-server ~]# sed -r '/root/ !d' test.txt
使用行号除以 2 ，余数是 1 的行删除
[root@linux-server ~]# sed -r '1~2 d' test.txt
使用行号除以 2， 余数 是 0 的 打印出来
[root@linux-server ~]# sed -rn '0~2 p' test.txt
试试下面这个， 就是 每次处理的行号是被除数，第二个数是除数，第一数是 余数
[root@linux-server ~]# sed -rn '0~3 p' test.txt

六、sed命令

sed命令告诉 sed 对匹配到的行进行何种操作，包括打印、删除、修改等。

命令功能详解

p 打印行
d 删除行

a 在当前行后添加一行或多行
c 用新文本修改（替换）当前行中的文本
i 在当前行之前插入文本
l 列出非打印字符
n 读入下一输入行，并从下一条命令而不是第一条命令开始对其的处理
! 对所选行以外的所有行应用命令

g 全局替换
r 从文件中读
w 将行写入文件

------------------------以下为扩展-----------------------

h  清除保持空间的内容后，把模式空间里的内容复制到保持空间
H  把模式空间里的内容追加到保持空间
g  清除模式空间的内容后， 取出保持空间的内容，并复制到模式空间
G  取出保持空间的内容，追加在模式空间原有内容的后面
x  交换模式空间与保持空间的内容

sed 部分命令示例 :
替换命令：s

[root@linux-server ~]# sed -rn 's/[0-9][0-9]/&.5/' test.txt           //&代表在查找串中匹配到的所有内容
[root@linux-server ~]# sed -r 's/(no)login/\1不可登录/' test.txt
部分输出为
bin:x:1:1:bin:/bin:/sbin/no不可登录

读文件命令：r

在 test.txt 文件的第二行下面，插入 从 /etc/hosts 文件中读取到的内容
[root@linux-server ~]# sed -r '2r /etc/hosts'  test.txt
在 test.txt 文件中含有字符 2 下面，插入 从 /etc/hosts 文件中读取到的内容
[root@linux-server ~]# sed -r '/2/r /etc/hosts' test.txt

写文件命令：w

把 test.txt 文件中含有 字符 root 的行写入到文件 newfile, newfile 文件不存在则创建，存在则覆盖
[root@linux-server ~]# sed -r '/root/w newfile'  test.txt
把 test.txt 文件中的第 3 行到最后的内容写入到文件 /new1.txt 中
[root@linux-server ~]# sed -r '3,$w /new1.txt' test.txt

追加命令：a

[root@linux-server ~]# sed -r '$a 1.1.1.1 www.baidu.com' /etc/hosts

插入命令：i

[root@linux-server ~]# sed -r '2i\1111111111111' /etc/hosts
[root@linux-server ~]# sed -r '2i111111111\
> 2222222222\
> 3333333333' /etc/hosts

修改命令：c

[root@linux-server ~]# sed -r '2c\1111111111111' /etc/hosts
[root@linux-server ~]# sed -r '2c\111111111111\
> 22222222222\
> 33333333333' /etc/hosts

获取下一行命令：n

[root@linux-server ~]# sed -r '/eastern/{ n; d }' datafile
[root@linux-server ~]# sed -r '/eastern/{ n; s/AM/Archile/ }' datafile

暂存和取用命令：h H g G

[root@linux-server ~]# sed -r '1h;$G' /etc/hosts
[root@linux-server ~]# sed -r '1{h;d};$G' /etc/hosts
[root@linux-server ~]# sed -r '1h; 2,$g' /etc/hosts
[root@linux-server ~]# sed -r '1h; 2,3H; $G' /etc/hosts

暂存空间和模式空间互换命令：x

[root@linux-server ~]# sed -r '4h; 5x; 6G' /etc/hosts

反向选择: !

[root@linux-server ~]# sed -r '3d' /etc/hosts
[root@linux-server ~]# sed -r '3!d' /etc/hosts

七、关于选项

选项 功能

-e 允许多项编辑
-f 指定sed脚本文件名
-n 取消默认的输出
-i inplace，就地编辑
-r 支持扩展元字符

多重编辑选项：-e

[root@linux-server ~]#  sed -e '1,3 d' -e 's/root/admin/' test.txt
    4:adm:x:3:4:adm:/var/adm:/sbin/nologin
    5:lp:x:4:7:lp:/var/spool/lpd:/sbin/nologin
    6:sync:x:5:0:sync:/sbin:/bin/sync
    7:shutdown:x:6:0:shutdown:/sbin:/sbin/shutdown
    8:halt:x:7:0:halt:/sbin:/sbin/halt
    9:mail:x:8:12:mail:/var/spool/mail:/sbin/nologin
    10:operator:x:11:0:operator:/admin:/sbin/nologin
[root@linux-server ~]# 

八、sed常见操作举例

删除配置文件中 # 号注释的行
[root@linux-server ~]# sed -ri '/^#/d' file.conf

删除开头的一个或者多个  空格或者 Tab 键
[root@linux-server ~]# sed -ri '/^[ \t]*#/d' file.conf

YUM 源修改
[root@linux-server ~]# sed -ri s/^#baseurl/baseurl/g /etc/yum.repos.d/CentOS-Base.repo
[root@linux-server ~]# sed -ri s/^mirrorlist/#mirrorlist/g /etc/yum.repos.d/CentOSBase.repo

空格和table键 '/^#/d' [ \t] * 空格和table

删除配置文件中//号注释行
[root@linux-server ~]# sed -ri '\Y^[ \t]*//Yd' file.conf

删除无内容空行
- 开头和结尾之间什么都没有的行
- 开头和结尾之间有多个空格的行
- 开头和结尾之间有多个  Tab 键的行
[root@linux-server ~]# sed -ri '/^[ \t]*$/d' file.conf

删除注释行及空行：
以下 3 中效果一样，挑一个自己喜欢的
[root@linux-server ~]# sed -ri '/^[ \t]*#/d; /^[ \t]*$/d' /etc/vsftpd/vsftpd.conf
[root@linux-server ~]# sed -ri '/^[ \t]*#|^[ \t]*$/d' /etc/vsftpd/vsftpd.conf
[root@linux-server ~]# sed -ri '/^[ \t]*($|#)/d' /etc/vsftpd/vsftpd.conf

修改文件：
[root@linux-server  ~]# sed -ri '$a\chroot_local_user=YES' /etc/vsftpd/vsftpd.conf
[root@linux-server ~]# sed -ri '/^SELINUX=/cSELINUX=disabled' /etc/selinux/config
[root@linux-server ~]# sed -ri '/UseDNS/cUseDNS no' /etc/ssh/sshd_config
[root@linux-server ~]# sed -ri '/GSSAPIAuthentication/cGSSAPIAuthentication no' /etc/ssh/sshd_config

给文件行添加注释：
[root@linux-server ~]# sed -r '2,6s/^/#/' a.txt

使用小括号进行分组，可以有多个分组， 后面可以使用 \1 获取到第一个分组的内容  
[root@linux-server ~]# sed -r '2,6s/(.*)/#\1/' a.txt
[root@linux-server ~]# sed -r '2,6s/.*/#&/' a.txt &匹配前面查找的内容

[root@linux-server ~]# sed -r '3,$ s/^#*/#/' a.txt 将行首零个或多个#换成一个#

[root@linux-server ~]# sed -r '30,50s/^[ \t]*#*/#/' /etc/nginx.conf
[root@linux-server ~]# sed -r '2,8s/^[ \t#]*/#/' /etc/nginx.conf

sed中使用外部变量
[root@linux-server ~]# var1=11111

# 无效
[root@linux-server ~]# sed -r '3a$var1' /etc/hosts

# 正确
[root@linux-server ~]# sed -r "3a$var1" /etc/hosts

# 有效
[root@linux-server ~]# sed -r 3a$var1 /etc/hosts

# 报错
[root@linux-server ~]# sed -r "$a$var1" /etc/hosts

# 有效，但是中间不能有空格
[root@linux-server ~]# sed -r '$a'"$var1" /etc/hosts

# 有效， 将第一个 $ 进行转义
[root@linux-server ~]# sed -r "\$a  $var1" /etc/hosts