Linux基础之sed流编辑器详解

之前介绍了三大文本编辑器的grep,这里介绍比grep功能更强的sed流编辑器

sed是什么?

sed是Stream EDitor的缩写,man中对sed的简介为

sed – stream editor for filtering and transforming text

它的主要功能是对文本的过滤与替换。



sed的工作原理

sed的工作过程:sed是一个流编辑器,所谓流编辑器是指sed每次只从文件或stdin中读入一行,将读入的行保存至模式空间然后根据指定的要求对其进行处理,并将处理后的结果输出至屏幕,接着读入下一行,整个文本的过程如流水线般被逐行处理后输出。

sed对内容的处理方式:sed不是在原文件中或原输入上直接进行处理的,它将读入的行放入缓存区,对缓存区里的内容进行处理,处理完毕后默认不会写入或覆盖源文件,而是直接输出到屏幕上。

它有两个内存缓冲区分别叫做:模式空间(pattern space)、保持空间也有称作暂存缓存区(holding space)。

一般情况下sed首先把第一行装入模式空间,进行处理后输出屏幕,然后第二行装入模式空间替换掉模式空间里原来的内容,再进行处理,依次循环,直至结束。

下面是我对sed工作流程的理解图。

sed1.jpg

1、sed每次将stdin中的内容中的一行读入模式空间

2、之后根据模式空间中的匹配条件进行匹配,符合条件进入下一阶段即普通编辑,不满足则默认至标准输出,结束

3、普通编辑之后分三个阶段,1)普通编辑之后选择性显示至STDOUT,结束;2)进入holding space进行高级编辑,编辑结束后选择性显示至模式空间,之后再次根据编辑命令重复2-3过程;3)若是出现多编辑命令则需要再返回模式空间根据编辑条件再次进行2-3步骤。

限于个人理解程度上述的理解免不了跟真实的工作流程有些出入,大家要抱着质疑的态度去看,我写的不一定都是对的,不过错的应该不至于很多。


sed语法

sed OPTIONS… <SCRIPT> [INPUTFILE…]

[SCRIPT]:可以理解为地址定界加编辑命令。

常用选项

         -n:不输出模式空间中的内容至屏幕;通俗点可以理解为它可以自动过滤掉模式空间中未匹配到的行,-n 要与命令编辑中的p合用(命令编辑见下文),用于显示模式空间中被匹配到的内容。

            suppress automatic printing of pattern space

         -n的具体应用见后面的sed编辑高级命令演示

         -e:多点编辑

            add the script to the commands to be executed

         -f:每行一个编辑命令

            add the contents of script-file to the commands to be executed

         -r:使用扩展表达式

            use extended regular expressions in the script.

         -i:直接编辑原文件

         edit files in place (makes backup if SUFFIX supplied)

SCRIPT

之前对这块很迷糊,因为info中sed显示语法有[]表示可加可不加,于是就在sed后直接加想要编辑的文本

于是就出现如下情况

[root@localhost test]# sed sed1
sed:-e 表达式 #1,字符 4:未终止的“s”命令

报错信息没找到终止的限制条件,所以上面的sed语法格式并不准确。

通过实验,sed可以不加[OPTION]但是[SCRIPT]则必须添加

SCRIPT分两部分地址定界(用于限定编辑文本的范围)、编辑命令(用于对匹配到的内容进行什么样的操作或编辑),前者可少后者必不可少,如果没有编辑的命令会发生如下错误

[root@localhost test]# sed '1' cat1
sed:-e 表达式 #1,字符 1:遗漏命令
[root@localhost test]# cat cat1
hi,everyone
now I will show how to use cat
[root@localhost test]# sed 'p' cat1
hi,everyone
hi,everyone
now I will show how to use cat
now I will show how to use cat

地址定界: 

        1、空地址:对全文处理

        2、单地址:

          #:指定行;

          /pattern/:被此模式所匹配到的每一行;

        3、地址范围:

         #,#:从#开始到#结束的所有行

         #,+#:从#开始向下至+#的行之间的所有行

         #,/pat1/ 从#开始至匹配到第一次出现/pat1/模式的行之间的所有行

         /pat1/,/pat2/:第一次匹配到/pat1/的行到第一次匹配到/pat2/的行之间的所有行

        4、步进:~

        1~2:所有奇数行          2~2:所有偶数行

编辑命令:若少了编辑命令会报错,编辑命令在SCRIPT中至少出现一次。

        d:删除模式空间中匹配到的内容       Delete pattern space

        a \text 在行后面插入文本“text”,支持使用\n实现多行插入

        Append text, which has each embedded newline  preceded  by  a  back slash.

        i \text 在行前面插入文本“text”,支持使用\n实现多行插入

        Insert  text,  which  has  each embedded newline preceded by a back slash.

        c \text 把匹配到的行替换为此处指定的文本“text”

       Replace the selected lines with text, which has each  embedded  new line preceded by a backslash.

        w filename 保存模式空间匹配的行至指定的文件中

              Write the current pattern space to filename.

        r filename 读取指定文件内容至当前文件被模式匹配到的行文件后合并

              Append text read from filename.

        =  : 为模式匹配到的行打印行号    Print the current line number.

        !: 条件取反(它比较特殊,它必须跟其他编辑命令一起使用

      s/regexp/replacement/ : 查找替换,其分隔符可自行指定,常用有s@@@,s###

      它有一个特殊的用法s//x&/:表示将被查找的内容在其前面添加x内容

                        s//&x/:表示将被查找的内容在其后面添加x内容

                        &代表被查找的内容

[root@localhost test]# cat cat1
hi,everyone
now I will show how to use cat
[root@localhost test]# sed 's/e/&#/' cat1  
hi,e#veryone
now I will show how to use# cat
[root@localhost test]# sed 's/e/#&/' cat1 
hi,#everyone
now I will show how to us#e cat

                    p  :显示替换成功的行    

                    g  :全局替换

                    w  filename : 将替换成功的结果保存至指定文件中

      查找替换在sed中应用很广,下面很多例子都是以sed的替换功能实现的

        p  :显示当前模式空间中的内容    Print the current pattern space.


注:同时使用多个编辑命令,命令之间要用;隔开(!除外)

例子如下:

[root@localhost test]# sed 'p;=' cat1
hi,everyone
1
hi,everyone
now I will show how to use cat
2
now I will show how to use cat



实例演示

1、删除/etc/grub2.conf文件中所有以空白开头的行行首的空白字符

sed 's#^[[:space:]]\+##' /etc/grub2.cfg

这里##是将前面匹配到的内容删除的意思,上面文本内容太多,就不截取了。

2、删除/etc/fstab文件中所有以#开头,后面至少跟一个空白字符的行的行首的#号及#后面的所有空白字符

sed 's@^#[[:space:]]\+@@' /etc/fstab
[root@localhost test]# cat /etc/fstab 
#
# /etc/fstab
# Created by anaconda on Tue Jul 19 23:52:41 2016
#
# Accessible filesystems, by reference, are maintained under '/dev/disk'
# See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info
#
/dev/mapper/centos-root /                       xfs     defaults        0 0
UUID=6efb8a23-bae1-427c-ab10-3caca95250b1 /boot                   xfs     defaults        0 0
/dev/mapper/centos-swap swap                    swap    defaults        0 0
[root@localhost test]# sed 's@^#[[:space:]]\+@@' /etc/fstab
#
/etc/fstab
Created by anaconda on Tue Jul 19 23:52:41 2016
#
Accessible filesystems, by reference, are maintained under '/dev/disk'
See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info
#
/dev/mapper/centos-root /                       xfs     defaults        0 0
UUID=6efb8a23-bae1-427c-ab10-3caca95250b1 /boot                   xfs     defaults        0 0
/dev/mapper/centos-swap swap                    swap    defaults        0 0

3、在/etc/fstab每一行行首增加#号

cat /etc/fstab                           
#
# /etc/fstab
# Created by anaconda on Tue Jul 19 23:52:41 2016
#
# Accessible filesystems, by reference, are maintained under '/dev/disk'
# See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info
#
/dev/mapper/centos-root /                       xfs     defaults        0 0
UUID=6efb8a23-bae1-427c-ab10-3caca95250b1 /boot                   xfs     defaults        0 0
/dev/mapper/centos-swap swap                    swap    defaults        0 0
 sed 's@^@#&@' /etc/fstab
#
##
## /etc/fstab
## Created by anaconda on Tue Jul 19 23:52:41 2016
##
## Accessible filesystems, by reference, are maintained under '/dev/disk'
## See man pages fstab(5), findfs(8), mount(8) and/or blkid(8) for more info
##
#/dev/mapper/centos-root /                       xfs     defaults        0 0
#UUID=6efb8a23-bae1-427c-ab10-3caca95250b1 /boot                   xfs     defaults        0 0
#/dev/mapper/centos-swap swap                    swap    defaults        0 0

4、处理/etc/fstab路径,使用sed命令取出其目录名和基名

目录名

[root@localhost test]# echo '/etc/fstab' | sed -r 's#(.*/)([^/]+/?)#\1#' 
/etc/

基名

[root@localhost test]# echo '/etc/fstab' | sed -r 's#(.*/)([^/]+/?)#\2#'
fstab



sed高级编辑命令

    h:把模式空间中的内容覆盖至保持空间中;

    H:把模式空间中的内容追加至保持空间中;

    g:把保持空间中的内容覆盖至模式空间中;

    G:把保持空间中的内容追加至模式空间中;

    x:把模式空间中的内容与保持空间中的内容互换;

    n:覆盖读取匹配到的行的下一行至模式空间中;

    N:追加读取匹配到的行的下一行至模式空间中;

    d:删除模式空间中的行;

    D:删除多行模式空间中的所有行;

我知道看了上面这些高级命令一定很晕,下面通过5个例子来理一下使用sed高级编辑命令的思路

高级编辑命令实例演示:

1、    sed  -n  'n;p'  FILE

''内意思:将读取到的行的下一行内容显示至模式空间

-n 'p':将模式空间中被匹配到的内容显示至屏幕

二者结合起来就是只显示偶数行。

[root@localhost test]# cat -n cat1
     1  hi,everyone
     2  now I will show how to use cat
[root@localhost test]# sed -n 'n;p' cat1
now I will show how to use cat


2    sed  '1!G;h;$!d'  FILE

这个命令按'x;x;x'中的;号分割分为三部分:

1、1!G:除读取的第一行都进行G编辑

2、h:将模式空间中的内容覆盖至保持空间中

3、$!d:删除非最后一行的内容

命令解释完了,我想大家对此应该还是一头雾水,那么就具体说明这个命令的意思:

1)读取文本信息的1行内容至模式空间,由于是第一行所以模式空间中的1行不进行G操作,之后触发h,将模式空间中的1行放入保持空间中,再之后触发$!d,由于1行不是最后一行,所以将模式空间中的1行删除;

2)读取2行内容至模式空间,由于不是1行所以触发G操作,将保持空间中1行追加到2行后面,此时模式空间中的顺序内容为2行,1行,之后h命令将模式空间中内容覆盖至保持空间中,此时保持空间内容为2行,1行,因为2行不是最后一行,所以$!d删除模式空间中内容;

3)上述过程不断重复,直到最后一行时不进行d操作,此时模式空间中的第一行就是原文件的最后一行。

因此这个命令就是原文件内容反过来的排列。

[root@localhost test]# cat cat1
hi,everyone
now I will show how to use cat
[root@localhost test]# sed '1!G;h;$!d' cat1    
now I will show how to use cat
hi,everyone

3、    sed  '$!d'  FILE

经过了上面两个命令的磨练,这个就显得简单了。

'$!d':不是最后一行则删除

意思是说模式空间中只保留文本的最后一行

[root@localhost test]# sed '$!d' cat1
now I will show how to use cat


4、    sed '/^$/d;G' FILE

'/^$/d':查找模式空间中的每行是否包含空白行,若包含则将其删除

G:将保持空间中的内容追加至模式空间中的每行后面

删除原有的所有空白行,而后为所有的非空白行后添加一个空白行;

二者结合在一起即:保证指定文件每一行后方有且只有一个空白行

[root@localhost test]# sed '/^$/d;G' cat1
hi,everyone

now I will show how to use cat

5、    sed  'n;d'  FILE:显示奇数行;

这个就很简单了,大家按照sed的工作原理及编辑命令n与d很容易就能明白其所表达的意思

[root@localhost test]# cat cat1
hi,everyone
now I will show how to use cat
[root@localhost test]# sed 'n;d' cat1
hi,everyone



学习sed的一些感受

    学习sed如果对于sed的编辑命令或高级命令很困惑,那么不妨试试照着我上面的sed工作流程图,一步一步的自己画图分析每一步所代表的意思。这既能加强自己对sed这个工具的了解也可有助于理清我们的使用思路。这是我在学习过程中觉得很有用的一种方法。

    sed这个工具它的精髓在于它的替换,替换的精髓在于精确匹配,而精确匹配又离不开正则表达式的,所以如果觉得自己对于替换很不擅长的话那么可以好好练习一下正则表达式。



sed是一个实用性很强的文本编辑工具,由于能力所限,也只能对sed进行下简要的介绍,大家若对其有进一步的兴趣可以查找更专业的书籍。

原创文章,作者:M20-张帆11,如若转载,请注明出处:http://www.178linux.com/34141

(0)
M20-张帆11M20-张帆11
上一篇 2016-08-15 09:26
下一篇 2016-08-15 10:26

相关推荐

  • 简单shell脚本习题

    习题 作业 简单shell脚本习题 习题1 答案 习题2 答案 习题3 答案 习题4 答案 习题5 答案 习题6 答案 习题1 编写脚本/root/bin/systeminfo.sh,显示当前主机系统信息,包括主机名,IPv4地址,操作系统版本,内核版本, CPU型号,内存大小,硬盘大小。 答案 #!/bin/bash IPADDR=$(…

    Linux干货 2017-04-10
  • Bash基本特性之命令状态返回值和命令行展开

    Bash基本特性之命令状态返回值和命令行展开 Bash的工作特性 命令执行状态返回值 bash中一条命令的执行,会产生两种返回结果:命令结果及命令执行状态结果。一条命令成功执行,其执行状态返回值为0。如果未能成功执行,其返回值为1-255。 ~]# echo $? 用于查看命令执行状态返回值 引用命令的执行结果$(COMMAND…

    Linux干货 2016-11-06
  • 集群-ipvsadm和NAT实验(3)

    纠正:报文进入内核空间后,当到达input链时发现是一个集群服务时,则直接发送到postrouting链,不经过forward链。 调度算法: 1、静态方法: rr:轮询,即依照次序从所有RS中进行挑选 wrr:加权轮询,按照权重在RS中进行轮询 sh:source hashing,源地址哈希,即对来自相同客户端的请求发送至同一RS,这样会破坏负载均衡效果。…

    Linux干货 2015-12-15
  • 题外:自制小linux

    自制小linux 系统 制作环境的概述 首先你的有VMware的虚拟机软件,其次安装了centos6/centos7的linux系统 而且你需要写一个复制相关命令以及依赖库文件的的脚本(主要是为了省时间,脚本写法会在后面备注)准备好以上环境,便可以制作一个小linux系统了,具体步骤如下 1)  在虚拟机设置中,在原有基础上在挂载一个20G大小的硬…

    2017-04-04
  • M20 – 1- 第三周博客(3):Linux上文本处理三剑客grep

    Grep是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹配的行打印出来。 1、作用 Linux系统中grep命令是一种强大的文本搜索工具,它能使用正则表达式搜索文本,并把匹 配的行打印出来。grep全称是Global Regular Expression Print,表示全局正则表达式版本,它的使用 权限是…

    Linux干货 2016-08-08
  • 关于压测的宏观个人总结

    工作角色定位 首先先从宏观角度来评估下本次的压测工作. 从工作职责上说本次压测理应由组内其它同学来完成,个人从旁协助或指导即可。团队成员的成长对我个人来说才是更大的成长。所以即使这次压测工作完成的再出色,都会因为是由我来完成的,所以都不能称之为优秀的。对我个人的成长最多是项目经验的增长和问题的积累,但对组员来说如何让他们做到现有成果的80%是我需要帮助他们来…

    Linux干货 2015-04-21