Linux sed 批量替换字符串

概述

本篇文章是shell文本处理命令–sed的用法汇集,如有新的例子请发邮件至 1783008088@qq.com 告知。本贴将保持更新。

sed(意为流编辑器,源自英语“stream editor”的缩写)是一个很好的文件处理工具,其本身是一个管道命令,主要是以【行】为单位进行处理,可以将数据行进行替换、删除、新增、选取等特定工作
sed命令行格式为:

         sed [-nefril] 'command' 输入文本  

常用选项:

这个命令组合很强大,要注意备份文件

  • -n∶ 使用安静(silent)模式。在一般 sed 的用法中,所有来自 STDIN的资料一般都会被列出到屏幕上。但如果加上 -n 参数后,则只有经过sed 特殊处理的那一行(或者动作)才会被列出来。
  • -e∶ 直接在指令列模式上进行 sed 的动作编辑;
  • -f∶ 直接将 sed 的动作写在一个档案内, -f filename 则可以执行 filename 内的sed 动作;
  • -r∶ 表示搜索子目录
  • -i∶ 直接修改读取的文件内容,表示inplace edit, 不由屏幕输出。
  • -l 表示输出匹配的文件名

    常用命令:

  • a∶ 新增(下一行), a 的后面可以接字串,而这些字串会在新的一行出现(目前的下一行)~
  • c∶ 整行替换, c 的后面可以接字串,这些字串可以取代 n1,n2 之间的行!
  • d∶ 删除,因为是删除啊,所以 d 后面通常不接任何咚咚;
  • i∶ 插入, i 的后面可以接字串,而这些字串会在新的一行出现(目前的上一行);
  • p∶ 打印,亦即将某个选择的资料印出。通常 p 会与参数 sed -n 一起运作~
  • s∶ 部分替换,可以直接进行取代的工作哩!通常这个 s 的动作可以搭配正规表示法!

    常用符号:

  • ^符号代表行首
  • $符号代表行尾
  • 命令间隔可用#代替

    追加/新增:a 命令

    第一行后增加多行,使用换行符\n
    $ sed '1a drink tea\nor coffee' test.txt
    Hello!
    drink tea
    or coffee
    ruby is me,welcome to my blog.
    end
    ‘this is a example’被追加到以test开头的行后面,sed要求命令a后面有一个反斜杠
    $ sed '/^test/a\—>this is a example' example
    第一行到第三行后增加字符串”drink tea”
    $ sed '1,3a drink tea' test.txt 
    Hello!
    drink tea
    ruby is me,welcome to my blog.
    drink tea
    end
    drink tea
    在文件test.txt中最后一行直接输入”bye”
    $ sed -i '$a bye' test.txt
    $ cat test.txt
    Hello!
    ruby is me,welcome to my blog.
    end
    bye

删除:d 命令

删除第一行

$ sed '1d' test.txt

删除example文件的第二行。

$ sed '2d' example

删除最后一行

$ sed '$d' test.txt

删除example文件的第二行到末尾所有行

$ sed '2,$d' example 

删除example文件的最后一行

$ sed '$d' example

删除example文件所有包含test的行

$ sed '/test/' d example

删除第一行到第二行

$ sed '1,2d' test.txt

删除example文件的最后一行

$ sed '$d' example

部分替换:s 命令

$ sed 's/要被替换的字符串/新的字符串/g'

在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest。

$ sed 's/test/mytest/g' example 

在整行范围内把test替换为mytest。如果没有g标记,则只有每行第一个匹配的test被替换成mytest

$ sed 's/test/mytest/g' example

(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。

$ sed -n 's/^test/mytest/p' example

&符号表示替换换字符串中被找到的部份。所有以192.168.0.1开头的行都会被替换成它自已加localhost,变成192.168.0.1localhost。

$ sed 's/^192.168.0.1/&localhost/' example  

love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。

$ sed -n 's/(love)able/1rs/p' example 

不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。

$ sed 's#10#100#g' example 

替换ruby为bird

$ sed -n '/ruby/p' test.txt | sed 's/ruby/bird/g' 

删除ruby

$ sed -n '/ruby/p' test.txt | sed 's/ruby//g' 

替换1~20行,替换old为new

$ sed 1,20s/old/new/g 
$ sed 's/01/Ab/g' test.txt

针对file文件中的第三行,将其中的aaa替换为fff

$ sed -i '3s/aaa/fff/' file 

针对文件,找出包含xxx的行,并将其中的aaa替换为fff

$ sed -i '/xxx/s/aaa/fff/g' file 

针对文件第1行,将其中的#号或是*号替换为fff

$ sed -i '1s/[#*]/fff/gp' file 
$ sed -n '/ruby/p' test.txt | sed 's/ruby/bird/g' 

当需要从第N处匹配开始替换时,可以使用 /Ng:

$ echo sksksksksksk | sed 's/sk/SK/2g'
skSKSKSKSKSK
$ echo sksksksksksk | sed 's/sk/SK/3g'
skskSKSKSKSK
$ echo sksksksksksk | sed 's/sk/SK/4g'
skskskSKSKSK

将目录/modules下面所有文件中的zhangsan都修改成lisi

$ sed -i “s/zhangsan/lisi/g” `grep zhangsan -rl /modules` 

完全替换:c 命令

将第 6 行替换为 xxxx

$ sed '6c xxxx' test.txt 

第一行代替为Hi

$ sed '1c Hi' test.txt
     Hi
     ruby is me,welcome to my blog.
     end

第一行到第二行代替为Hi

$ sed '1,2c Hi' test.txt  
     Hi
     end

选定行的范围:逗号

所有在模板test和check所确定的范围内的行都被打印。

$ sed -n '/test/,/check/p' example 
打印从第五行开始到第一个包含以test开始的行之间的所有行。
``` bash
$ sed -n '5,/^test/p' example 

对于模板test和west之间的行,每行的末尾用字符串sed test替换。

$ sed '/test/,/check/s/$/sed test/' example 
显示第一行
$ sed -n '1p' test.txt   
显示最后一行
$ sed -n '$p' test.txt  
显示第一行到第二行
$ sed -n '1,2p' test.txt  

显示第二行到最后一行

$ sed -n '2,$p' test.txt

如果test被匹配,则移动到匹配行的下一行,替换这一行的aa,变为bb,并打印该行,然后继续。

$ sed '/test/{ n; s/aa/bb/; }' example 

查询包括关键字ruby所在所有行

$ sed -n '/ruby/p' test.txt  
查询包括关键字$所在所有行,使用反斜线\屏蔽特殊含义
$ sed -n '/\$/p' test.txt  
打印第 9-11 行
$ sed -n '9,11p' test.txt | cat -n 

写入文件:w 命令

$ sed -n '/test/w file' example 在example中所有包含test的行都被写入file里。

插入:i 命令

-i 直接修改并保存

$ sed -i 's/被替换的内容/要替换成的内容/' file      
$ sed '/test/i\   如果test被匹配,则把反斜杠后面的文本插入到匹配行的前面。

多点编辑:e 命令

$ sed -e '1,5d' -e 's/test/check/'example 

(-e)选项允许在同一行里执行多条命令。如例子所示,第一条命令删除1至5行,第二条命令用check替换test。命令的执行顺序对结果有影响。如果两个命令都是替换命令,那么第一个替换命令将影响第二个替换命令的结果。
一个比-e更好的命令是–expression。它能给sed表达式赋值。

$ sed --expression='s/test/check/' --expression='/love/d' example  

一个比-e更好的命令是–expression。它能给sed表达式赋值。

从文件读入:r 命令

file里的内容被读进来,显示在与test匹配的行后面,如果匹配多行,则file的内容将显示在所有匹配行的下面。

$ sed '/test/r file' example 

变形:y 命令

把1–10行内所有abcde转变为大写,注意,正则表达式元字符不能使用这个命令。

$ sed '1,10y/abcde/ABCDE/' example 

退出:q 命令

打印完第10行后,退出sed。

$ sed '10q' example 

保持和获取:h 命令和 G 命令

$ sed -e '/test/h' -e '$Gexample

在sed处理文件的时候,每一行都被保存在一个叫模式空间的临时缓冲区中,除非行被删除或者输出被取消,否则所有被处理的行都将打印在屏幕上。接着模式空间被清空,并存入新的一行等待处理。在这个例子里,匹配test的行被找到后,将存入模式空间,h命令将其复制并存入一个称为保持缓存区的特殊缓冲区内。第二条语句的意思是,当到达最后一行后,G命令取出保持缓冲区的行,然后把它放回模式空间中,且追加到现在已经存在于模式空间中的行的末尾。在这个例子中就是追加到最后一行。简单来说,任何包含test的行都被复制并追加到该文件的末尾。

保持和互换:h 命令和 x 命令

互换模式空间和保持缓冲区的内容。也就是把包含test与check的行互换。

$ sed -e '/test/h' -e '/check/x' example 

Sed脚本是一个sed的命令清单,启动Sed时以-f选项引导脚本文件名。Sed对于脚本中输入的命令非常挑剔,在命令的末尾不能有任何空白或文本,如果在一行中有多个命令,要用分号分隔。以#开头的行为注释行,且不能跨行。

常见用法

将行首的 # 号去掉

$ sed 's/^#//g' test.txt | cat -n 

删除第 10 行

$ sed '10d' test.txt | cat -n 

在第一行前面加上 hello 一行,并保存到文件中

$ sed -i '1i hello' test.txt ; cat -n test.txt 

在最后一行后面加上 goodbye 一行,并保存到文件中

$ sed -i '$a goodbye' test.txt ; cat -n test.txt 

在含有 d 的行前后追加 \(反斜杠)

$ sed '/d/i \\\' test.txt | sed '/d/a \\\' | cat -n 

删除空白行

$ sed '/^$/d' test.txt | cat -n  

将行首字母 a 替换为 z

$ sed 's/^a/z/1' test.txt | cat -n  

如果要打印出含有字串”1024”的行

$ cat filename | sed –n '/1024/p'  

可以删除文件中的空行。

$ sed /^$/d filename    

可以删除内容为多个空格/tab组成的行

$ sed /^[[:space:]]*$/d filename    
$ sed -i 's/172.30.0.122:1521:iboxpay/要替换的IP:端口:实例/g' /home/wdk/proxool.xml
$ sed -i 's/"tst"/要替换的数据库用户名/g' /home/wdk/proxool.xml
$ sed -i 's/"ok"/要替换的数据库密码/g' /home/wdk/proxool.xml
$ cat /home/wdk/proxool.xml

删除2~5行

$ nl /etc/passwd | sed '2,5d'  

删除3~最后一行 $代表最后一行

$ nl /etc/passwd | sed '3,$d'  

在第二行之后加入“drink tea?”

$ nl /etc/passwd | sed '2a drink tea?'   

在第二行之前加入”drink tea?“

$ nl /etc/passwd | sed '2i drink tea?'    

在第二行之后加入“drink tea?”并以“\”结束,回车后

$ nl /etc/passwd | sed '2a drink tea?\   

将第2~5行的内容替换为“NO 2-5 NUMBER”

$ nl /etc/passwd | sed '2,5c NO 2-5 NUMBER'     

(-n)选项和p标志一起使用表示只打印那些发生替换的行。也就是说,如果某一行开头的test被替换成mytest,就打印它。

$ sed -n 's/^test/mytest/p' example

love被标记为1,所有loveable会被替换成lovers,而且替换的行会被打印出来。

$ sed -n 's//(love/)able//1rs/p' example  

不论什么字符,紧跟着s命令的都被认为是新的分隔符,所以,“#”在这里是分隔符,代替了默认的“/”分隔符。表示把所有10替换成100。

$ sed 's#10#100#g' example 
$ cat filename | sed –n '/1024/p'

可以删除文件中的空行。

$ sed /^$/d filename    

可以删除内容为多个空格/tab组成的行。

$ sed /^[[:space:]]*$/d filename   

删除行首的#字符,打开注释部分代码

$ sed -i '/snd-soc/s/^#//' text.txt 

将指定行代码再次注释起来

$ sed -i '/snd-soc-wmt-fm34/s/^/#&/' text.txt 

显示文件内容

$ cat -n test.txt 
基于文件的sed脚本:将几个sed命令(每行一个命令)放入脚本文件(例如subst.sed)中然后使用-f选项从文件中运行命令(例如s/x/y/g):
$ sed -f subst.sed inputFileName > outputFileName

在第2行后插入ttt,并且将结果更新到a.txt(如果不想更新原文件,去掉-i)

$ sed '2 attt' -i a.txt      

末尾插入文件

$ sed -i '$r test1.txt' test.txt

没有修改build.xml文件的内容。

$ sed  's/properties/property/g'  build.xml

如果想保存修改,通常的做法就需要重定向到另外的一个文件

$ sed  's/properties/property/g'  build.xml > build.xml.tmp 

覆盖原文件。

$ mv build.xml.tmp build.xml

直接修改源文件

$ sed  -i 's/properties/property/g'  build.xml 

小技巧

替换/home下所有文件中的www.wutan.cn为yoursite.cn

$ sed -i “s/www.wutan.cn/yoursite.cn/g” `grep www.wutan.cn -rl /home`

在指定行前插入一行

在第2行前插入ttt,并且将结果更新到a.txt(如果不想将插入真正更新到文件,去掉后面的-i选项就可以)

$ sed '2 ittt' -i a.txt 

在指定行后插入一行

在第2行后插入ttt,并且将结果更新到a.txt(如果不想更新原文件,去掉-i)

$ sed '2 attt' -i a.txt

在指定的多行前面插入

$ sed 'n,m ittt' -i a.txt 

在指定的多行后面插入

$ sed 'n,m attt' -i a.txt 

在sed的命令行中引用Shell变量时要使用双引号,而不是通常所用的单引号。下面是一个根据name变量的内容来删除named.conf文件中zone段的脚本:

name='zone "localhost"'
sed "/$name/,/};/d" named.conf
sed -i "s/oldstring/newstring/g" `grep oldstring -rl yourdir`

综合例子

Sed命令中含有转义字符的解决方法

在sed命令中有许多的字符都被转义,比如\ , $, ^,单双引号还有点号等等,因此使用sed命令进行字符串的匹配和修改的时候,字符串中如果含有转义字符,很多情况下不能直接用字符本身表示。这时候可以使用反斜杠加上转义字符的方法来输出含转义字符的字符串,但这一方法并不是对所有的转义字符都有用,过程也较复杂。下面一一说明:
一般而言sed命令格式由三部分组成,sed + 功能选项 + 条件选项,功能选项由连接符号-加上代表不同功能的字母构成,条件选项表明对文本的筛选和处理条件,一般括在单引号或者双引号中。但两种引号在sed命令处理的过程中略有不同:
单引号:对其中的内容不做任何处理,即引号内的内容是sed命令定义的格式,对于在条件选项中使用的转义字符需要使用反斜杠加转义字符才能输出。例如:
若定义变量 temp=/home/test/, var=aa

$ echo $temp | sed 's/\//$var/g'

输出结果为:$varhome$vartest$var
你可能会发现并不是所有的转义字符都需要加反斜杠来输入(如上例中的$符号),这取决于转义字符在条件选项中的位置,如果在这个位置字符本身转义起作用,则需要加反斜杠。即sed命令先检查字符转义功能是否成立,若有转义功能则使用转义功能,否则按字符输出。如果你想要输出该字符时不确定该字符是否会转义,可以对所有位置添加反斜杠。
双引号:会对其中的变量进行直接转换,同样是上例,如果写成:

$ echo $temp | sed "s/\//$var/g"

则输出结果为:aahomeaatestaa
可以看出双引号将变量名直接替换成变量内容。
要想使用单引号得到上面双引号的输出结果也是可以做到的,这时候需要对变量名加单引号来处理:

$ echo $temp | sed 's/\//'$var'/g'

同样可以得到输出结果为:aahomeaatestaa
对于sed命令,如上例单引号命令>echo $temp | sed ‘s///$var/g’ 中,我们对斜杠符号的输出加上了反斜杠,以免被sed命令视为转义字符功能。我们还可以采用另一种方法无需使用加反斜杠来输出斜杠字符。在这个命令中,分隔符使用了斜杠(/),因此斜杠默认转义,sed中是可以使用其他符号作为分隔符的,如果不使用斜杠作为分隔符,则斜杠默认无转义功能,这时就不需要借助反斜杠来输出了:

$ echo $temp | sed 's#/#'$var'#g'

这里我们使用#来代替/当分隔符,因此/不再具有转义功能,无需再加反斜杠来辨识。同样可以得到上面的输出效果。分隔符对单引号和双引号作用一样。
若字符串中含有单引号,有的时候会发现加反斜杠还是得不到想要的字符串输出。比较简单的一个做法是字符串中有单引号时,功能选项部分用双引号括起来,这样不用加反斜杠可以直接输出字符。例如:

$ echo $temp | sed "s#/#'#g"

输出结果为:’home’test’
同理上例如果写成:>echo $temp | sed ‘s#/#'#g’,则会报错。因为单引号需要成对出现,否则sed命令无法知道第一个单引号究竟与第二个还是第三个单引号匹配。
若字符串中含有双引号时,功能选项部分用单引号括起来,也可以不使用反斜杠来输出双引号。

$ echo $temp | sed 's#/#"#g'

输出结果为:”home”test”
但是,与单引号不同的是,上例如果写成:>echo $temp | sed “s#/#"#g”,却不会报错。这也就很好的解决了如果字符串中同时有单双引号的时候该如何处理的问题。
在更加复杂的文本情况中,sed命令中的转义字符还有许多问题需要注意,需要根据具体情况采取不同的输出方法来解决问题。

sed 批量替换多个文件中的字符串

$ sed -i "s/oldstring/newstring/g" `grep oldstring -rl yourdir`

例如:替换/home下所有文件中的www.wutan.cn为wutan.cn

$ sed -i "s/www.wutan.cn/wutan.cn/g" `grep www.bcak.com.cn -rl /home`

替换同一目录下的

$ sed  -i 's/www.sc.com/tst.sc.com/g'  *php

下面这条命令将调用perl执行一条替换命令,把find命令找到的所有文件内容中的ABCD替换为Linuxfind ./ -type f此命令是显示当前目录下所有的文件

$ perl -pi -e 's|ABCD|Linux|g' `find ./ -type f`

将调用perl执行一条替换命令,把find命令找到的所有文件内容中的ABCD替换为Linux
find ./ -type f

$ sed -i 's/old_string/new_string/g'  `grep old_string -rl ./`                           //一般的替换用这条足以实现
$ sed -i 's/old_string/new_string/g'  `grep old_string -rl ./ | grep -vE "tags|svn"`     //特殊要求的替换:此命令中要求过滤掉含

在某行后添加多行字符串

sed在行首(行尾)添加字符串;
^符号代表行首 sed在行首添加字符串

$ sed 's/^/xxx/'  filename >output

$符号代表行尾 sed在行尾添加字符串

$ sed 's/$/string/' filename>output

sed在匹配某行后添加一行字符串
用string1替代string1,同时在string1后面加个回车换行后再添加string2

$ sed '/string1/c\string1\nstring2' filename>output

sed在每行后添加多行:先在每一行字符串后面添加一行字符串(用于定位),然后再用多行替换一行

$ sed 'a\string1'  filename >filename1

string2替换string1,并增加string3

$ sed '/string1/c\string2\nstring3' filename1>output 

sed在行首添加字符串;

$ sed 's/^/xxx/'  filename >output:^符号代表行首 

sed在行尾添加字符串

$ sed 's/$/string/' filename>output:$符号代表行尾 

sed在匹配某行后添加一行字符串

$ sed '/string1/c\string1\nstring2' filename>output:用string1替代string1,同时在string1后面加个回车换行后再添加string2 

打印单引号

sed -i 'gawk '"'"'{print $1}'"'"'`  ' test.sh 

来自网络总结。本篇文章是shell文本处理命令–sed的用法汇集,如有新的例子请发邮件至 1783008088@qq.com 告知。本贴将保持更新。


   转载规则


《Linux sed 批量替换字符串》 物探网 采用 知识共享署名 4.0 国际许可协议 进行许可。
 上一篇
SED原理 SED原理
概述 SED的典型用途 工作流 需要注意的几点 示例 基础语法 标准选项 GNU选项 循环 分支 模式空间和保持空间 模式空间 行寻址 数字方式的行寻址 使用文本模式过滤器 保持空间 基本命令 删除命令 d 文件写入命
2019-07-10 物探网
本篇 
Linux sed 批量替换字符串 Linux sed 批量替换字符串
概述本篇文章是shell文本处理命令–sed的用法汇集,如有新的例子请发邮件至 1783008088@qq.com 告知。本贴将保持更新。 sed(意为流编辑器,源自英语“stream editor”的缩写)是一个很好的文件处理工具,其本身
2019-06-28 物探网
  目录