文本处理之sed

作者: 699b979fc4da | 来源:发表于2017-10-13 15:10 被阅读38次

    简介

    • sed 是一种在线编辑器,它一次处理一行内容。处理时,把当前处理的行存储在临时缓冲区中,称为“模式空间”(pattern space),接着用sed命令处理缓冲区中的内容,处理完成后,把缓冲区的内容送往屏幕。接着处理下一行,这样不断重复,直到文件末尾。文件内容并没有 改变,除非你使用重定向存储输出。Sed主要用来自动编辑一个或多个文件;简化对文件的反复操作;编写转换程序等。

    参数

    [root@www ~]# sed [-nefr] [动作]

    选项与参数:
    -n :使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN 的数据一般都会被列出到终端上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
    -e:直接在命令列模式上进行 sed 的动作编辑;
    -f :直接将 sed 的动作写在一个文件内, -f filename 则可以运行 filename 内的 sed 动作;
    -r :sed 的动作支持的是延伸型正规表示法的语法。(默认是基础正规表示法语法)
    -i :直接修改读取的文件内容,而不是输出到终端。

    动作说明: [n1[,n2]]function
    n1, n2 :不见得会存在,一般代表『选择进行动作的行数』,举例来说,如果我的动作是需要在 10 到 20 行之间进行的,则『 10,20[动作行为] 』

    function:
    a :新增, a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~
    c :取代, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
    d :删除,因为是删除啊,所以 d 后面通常不接任何咚咚;
    i :插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
    p :列印,亦即将某个选择的数据印出。通常 p 会与参数 sed -n 一起运行~
    s :取代,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示法!例如 1,20s/old/new/g 就是啦!

    范例

    1 p命令 ->打印
    命令p用于显示模式空间的内容。默认情况下,sed把输入行打印在屏幕上,选项-n用于取消默认的打印操作。当选项-n和命令p同时出现时,sed可打印选定的内容。

    sed '/my/p' datafile

    • 默认情况下,sed把所有输入行都打印在标准输出上。如果某行匹配模式my,p命令将把该行另外打印一遍。

    sed -n '/my/p' datafile

    • 选项-n取消sed默认的打印,p命令把匹配模式my的行打印一遍。
    2 d命令 ->删除

    命令d用于删除输入行。sed先将输入行从文件复制到模式空间里,然后对该行执行sed命令,最后将模式空间里的内容显示在屏幕上。如果发出的是命令d,当前模式空间里的输入行会被删除,不被显示。

    sed '$d' datafile

    • 删除最后一行,其余的都被显示

    sed '/my/d' datafile

    • 删除包含my的行,其余的都被显示
    3 s命令 ->替换

    sed 's/^My/You/g' datafile

    • 命令末端的g表示在行内进行全局替换,也就是说如果某行出现多个My,所有的My都被替换为You。

    sed -n '1,20s/My$/You/gp' datafile

    • 取消默认输出,处理1到20行里匹配以My结尾的行,把行内所有的My替换为You,并打印到屏幕上。

    sed 's#My#Your#g' datafile

    • 紧跟在s命令后的字符就是查找串和替换串之间的分隔符。分隔符默认为正斜杠,但可以改变。无论什么字符(换行符、反斜线除外),只要紧跟s命令,就成了新的串分隔符。
    4 e选项 ->编辑

    -e是编辑命令,用于sed执行多个编辑任务的情况下。在下一行开始编辑前,所有的编辑动作将应用到模式缓冲区中的行上。

    sed -e '1,10d' -e 's/My/Your/g' datafile

    • 选项-e用于进行多重编辑。第一重编辑删除第1-3行。第二重编辑将出现的所有My替换为Your。因为是逐行进行这两项编辑(即这两个命令都在模式空间的当前行上执行),所以编辑命令的顺序会影响结果。
    5 r命令 ->读

    r命令是读命令。sed使用该命令将一个文本文件中的内容加到当前文件的特定位置上。

    sed '/My/r introduce.txt' datafile

    • 如果在文件datafile的某一行匹配到模式My,就在该行后读入文件introduce.txt的内容。如果出现My的行不止一行,则在出现My的各行后都读入introduce.txt文件的内容。
    6 w命令

    sed -n '/hrwang/w me.txt' datafile

    7 a 命令

    a\ 命令是追加命令,追加将添加新文本到文件中当前行(即读入模式缓冲区中的行)的后面。所追加的文本行位于sed命令的下方另起一行。如果要追加的内容超过一行,则每一行都必须以反斜线结束,最后一行除外。最后一行将以引号和文件名结束。

    sed '/^hrwang/a\

    hrwang and mjfan are husband
    and wife' datafile

    • 如果在datafile文件中发现匹配以hrwang开头的行,则在该行下面追加hrwang and mjfan are husband and wife
    8 i 命令

    i 命令是在当前行的前面插入新的文本。

    9 c 命令

    sed使用该命令将已有文本修改成新的文本。

    10 y命令

    该命令与UNIX/Linux中的tr命令类似,字符按照一对一的方式从左到右进行转换。例如,y/abc/ABC/将把所有小写的a转换成A,小写的b转换成B,小写的c转换成C。

    sed '1,20y/hrwang12/HRWANG^$/' datafile

    • 将1到20行内,所有的小写hrwang转换成大写,将1转换成^,将2转换成$。
    • 正则表达式元字符对y命令不起作用。与s命令的分隔符一样,斜线可以被替换成其它的字符。
    11 q命令

    q命令将导致sed程序退出,不再进行其它的处理。

    sed '/hrwang/{s/hrwang/HRWANG/;q;}' datafile

    常用示例:

    sed -i 's/\t/,/g' filename //把tab 替换成 “,”
    cat filename | sed 's/[ ][ ]/,/g' cat lse | sed 's/\s+/,/g' 替换空格
    cat lse | sed -e 's/[[:space:]][[:space:]]
    /,/g' 如果空格与tab共存时用

    1:把文件filename中的a字符换成A字符
    sed -i "s/a/A/g" filename
    2:替换为空格 将tab替换为空格
    sed -i "s/\t/ /g" filename

    二、实例
    1)替换:s命令

    sed -e 's/123/1234/' a.txt

    将a.txt文件中所有行中的123用1234替换(-e表示命令以命令行的方式执行;参数s,表示执行替换操作)

    sed -e '1 s/12/45/' a.txt

    把第一行的12替换成45

    sed -n 's/^test/mytest/p' example.file

    (-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。(^这是正则表达式中表示开头,该符号后面跟的就是开头的字符串)(参数p表示打印行)

    sed -n 's/loveable/\1rs/p' example.file

    love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。需要将这条命令分解,s/是表示替换操作,love表示选中love字符串,loveable/表示包含loveable的行,loveable/\l表示love字符串标记为1,表示在替换过程中不变。rs/表示替换的目标字符串。这条命令的操作含义:只打印替换了的行

    sed 's#10#100#g' example.file

    不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100

    sed -i 's/now/right now/g' test_sed_command.txt

    表示直接操作文件test_sed_command.txt,将文件test_sed_command.txt中所有的now用right now替换。参数-i,表示直接操作修改文件,不输出

    echo 112.111 | sed -e 's/..*//g'

    将小数点及之后的内容清除,以上输出是112(.表示匹配"."符号,之后跟着.表示1个到多个字符,如果只是.的话,只会匹配"."字符,因为*号是0个到多个)

    echo aaaa.mpg.bak | sed -e 's;.∗..∗..*;\1;g'

    输出:aaaa.mpg

    sed 's/^wangpan/&19850715/' example.file

    表示被替换换字符串被找到后,被替换的字符串通过&符号连接给出的字符串组成新字符传替换被替换的字符串,所有以wangpan开头的行都会被替换成它自已加19850715,变成wangpan19850715

    2)选定行范围,逗号

    sed -e '3,5 a4' a.txt

    将a.txt文件中的3行到5行之间所有行的后面添加一行内容为4的行(参数a,表示添加行,参数a后面指定添加的内容)

    sed -n '/love/,/unlove/p' example.file

    只打印包含love字符串行到包含unlove字符串行之间的所有行(确定行的范围就是通过逗号实现的)

    sed -n '5,/^wang/p' example

    只打印从第五行开始到第一个包含以wang开始的行之间的所有行

    3)编辑 e命令

    sed --expression='s/test/check/' --expression='/love/d' example.file

    一个比-e更好的命令是--expression。它能给sed表达式赋值。

    sed -e '11,53d' -e 's/wang/pan/' example.file

    (-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除11至53行,第二条命令用pan替换wang。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。(参数d,表示删除指定的行)

    4)从文件读写:r命令和w命令

    sed '/wangpan/r file' example.file

    file里的内容被读进来,显示在与wangpan匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。参数r,表示读出文件,后面空格紧跟文件名称

    sed -n '/test/w file' example.file

    在example.file中所有包含test的行都被写入file里。参数w,表示将匹配的行写入到指定的文件file中

    5)追加和插入命令:a命令和i命令

    sed '/^test/a\this is a example' example.file

    'this is a example'被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠。

    sed '/test/i\oh! My god!' example.file
    'oh! My god!'被追加到包含test字符串行的前面,参数i表示添加指定内容到匹配行的前面,sed要求参数i后面有一个反斜杠(也可以不加)

    6)变形:y命令

    sed '1,10y/abcde/ABCDE/' example.file

    把1-10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。参数y,表示把一个字符翻译为另外的字符(但是不用于正则表达式)

    7)保持和获取:h命令和G命令

    sed -e '/old/h' -e '/girl-friend/G' test_sed_command.txt

    首先了解参数h,拷贝匹配成功行的内容到内存中的缓冲区。在了解参数G,获得内存缓冲区的内容,并追加到当前模板块文本的后面。上面命令行的含义:将包含old字符串的行的内容保存在缓冲区中,然后将缓冲区的内容拿出来添加到包含girl-friend字符串行的后面。隐含要求搜集到缓冲区的匹配行在需要添加行的前面

    8)保持和互换:h命令和x命令

    sed -e '/test/h' -e '/wangpan/x' example.file

    将包含test字符串的行的内容保存在缓冲区中,然后再将缓冲区的内容替换包含wangpan字符串的行。参数x,表示行替换操作。隐含要求搜集到缓冲区的匹配行在需要被替换行的前面

    三、收集

    1. sed -e 's/123/1234/' a.txt
      将a.txt文件中所有行中的123用1234替换,每行只匹配第一次(-e表示命令以命令行的方式执行;参数s,表示执行替换操作,不改变原文件)

    2.#sed -e 's/123/1234/g' a.txt
    将a.txt文件中所有行中的123用1234替换,每行匹配多次(-e表示命令以命令行的方式执行;参数s,表示执行替换操作;参数g,表示每行匹配多次,不改变原文件)

    3.# sed -e '3,5 a4' a.txt
    将a.txt文件中的3行到5行之间所有行的后面添加一行内容为4的行(参数a,表示添加行,参数a后面指定添加的内容,不改变原文件)

    4.# sed -e '1 s/12/45/' a.txt
    把第一行的12替换成45(不改变原文件)

    5.#sed -i "s/456aaa/444aaa/" grep 456aaa -lr /mnt/
    在/mnt/share目录下所有的文件及所有子目录下的文件中找出包括aaa456的文件(不包括文件夹),将找出来的文件中的456aaa替换成444aaa(-i表示直接改变文件)

    6.#sed -n 's/^test/mytest/p' example.file
    (-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。(^这是正则表达式中表示开头,该符号后面跟的就是开头的字符串)(参数p表示打印行)

    7.#sed 's/^wangpan/&19850715/' example.file
    表示被替换换字符串被找到后,被替换的字符串通过&符号连接给出的字符串组成新字符传替换被替换的字符串,所有以wangpan开头的行都会被替换成它自已加19850715,变成wangpan19850715

    8.#sed -n 's/loveable/\1rs/p' example.file
    love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。需要将这条命令分解,s/是表示替换操作,love表示选中love字符串,loveable/表示包含loveable的行,loveable/\1表示love字符串标记为1,表示在替换过程中不变。rs/表示替换的目标字符串。这条命令的操作含义:只打印替换了的行,如果替换字符和被替换字符有部分内容相同,则可用这种标记方法

    9.#sed 's#10#100#g' example.file
    不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符,但是在一个表达示中,不能把不同字符混合用作分隔符。表示把所有10替换成100。

    10.#sed -n '/love/,/unlove/p' example.file
    只打印包含love字符串行到包含unlove字符串行之间的所有行,如果找不到unlove,则一直到最后一行(确定行的范围就是通过逗号实现的)

    11.#sed -n '5,/^wang/p' example
    只打印从第五行开始到第一个包含以wang开始的行之间的所有行

    12.#sed '/love/,/unlove/s/$/jeffery/p' example.file
    对于包含love字符串的行到包含unlove字符串之间的行,每行的末尾用字符串jeffery替换。
    字符串$/表示以字符串结尾的行,$/表示每一行的结尾,s/$/jeffery/表示每一行的结尾添加jeffery字符串

    13.#sed -e '11,53d' -e 's/wang/pan/' example.file
    (-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除11至53行,第二条命令用pan替换wang。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。(参数d,表示删除指定的行)

    14.# sed --expression='s/wang/pan/' --expression='/love/d' example.file
    一个比-e更好的命令是--expression。它能给sed表达式赋值。

    15.#sed '/wangpan/r file' example.file
    file里的内容被读进来,显示在与wangpan匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。参数r,表示读出文件,后面空格紧跟文件名称

    16.# sed -n '/test/w file' example.file
    在example.file中所有包含test的行都被写入file里。参数w,表示将匹配的行写入到指定的文件file中

    17.sed '/test/i\oh! My god!' example.file
    'oh! My god!'被追加到包含test字符串行的前面,参数i表示添加指定内容到匹配行的前面一行,sed要求参数i后面有一个反斜杠

    18.#sed '1,10y/abcde/ABCDE/' example.file
    把1—10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。参数y,表示把一个字符翻译为另外的字符(但是不用于正则表达式)

    19.#find . -name "*.log" -exec rm -f {} ;
    查找当前目录及子目录里所有的文件,删除文件名以log为后缀的文件 -exec可以对find出来的结果执行命令, {} ;代表find出来的结果,除了-name参数外,经常用的还有:
    1)-mtime,-ctime,atime都是指按时间查找,-mtime是文件的修改时间,-ctime是文件的创建时间,atime是后找开文件时间;
    2)-type 指定查找的文件的类型,它有d,l,b,p,f,c等文件类型,d是查找目录,l是查找链接档,b是查找块文件,p是查找管道文件,f是普通文件,c是字符设备文件;
    3)-perm 0700 查权限为700的文件或目录;
    4)-size +512k 查大于512k的文件 ;-size -512k 查小于512k的文件;
    5)-mtime +2 两天以前修改过的文件; -mtime -2 两天内修改过的文件;-atime -2 两天内访问过的文件;-ctime -2 两天内创建的文件

    1. 合并文件里所有行到一行
      sed ':a;N;s/\r\n/ /;ta' file # 注意有些是"\r\n",有些只有"\n", 可以用文件编辑器16进制查看是哪种

    相关文章

      网友评论

        本文标题:文本处理之sed

        本文链接:https://www.haomeiwen.com/subject/gumzyxtx.html