linux 去除空行 shell去除空行
linux查找目录下的所有文件中是否含有某个字符串
查找目录下的所有文件中是否含有某个字符串
查找目录下的所有文件中是否含有某个字符串
find.|xargs grep-ri"IBM"
查找目录下的所有文件中是否含有某个字符串,并且只打印出文件名
find.|xargs grep-ri"IBM"-l
1.正则表达式
（1）正则表达式一般用来描述文本模式的特殊用法，由普通字符（例如字符a-z）以及特殊字符（称为元字符，如/、*、?等）组成。
（2）基本元字符集及其含义
^：只匹配行首。如^a匹配以a开头的行abc,a2e,a12,aaa,......
$：只匹配行尾。如^a匹配以a结尾的行bca,12a,aaa,.......
*：匹配0个或多个此单字符。如(a)*匹配空，a,aa,aaa,....
[]：只匹配[]内字符。可以是一个单字符，也可以是字符序列，用","将里面要匹配的不同字符串分开。也可以使用-来表示[]内字符序列的范围，如[1-5]表示[12345]
\：只用来屏蔽一个元字符的特殊含义。如\*,\',\",\|,\+,\^,\.等
.：（点）只匹配任意单字符。
pattern\{n\}：只用来匹配前面pattern出现的次数.n为次数。如a\{2\}匹配aa.
pattern\{n,\}：含义同上，但次数最少为n.如a\{2,\}匹配aa,aaa,aaaa,.....
pattern\{n,m\}：含义同上，但次数在n和m之间。如a\{2,4\}匹配aa,aaa,aaaa三个
(3)举例说明：
^$：匹配空行
^.$：匹配包含一个字符的行
\*\.pas：匹配以*.pas结尾的所有字符或文件
[0123456789]或[0-9]：假定要匹配任意一个数字
[a-z]：任意小写字母
[A-Za-z]：任意大小写字母
[S,s]：匹配大小写S
[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}：匹配IP地址 [0-9]\{3\}三个0-9组成的字符串；\.：匹配点（注意这里点是特殊的字符，所以要用"\"来屏蔽其含义）
2.find介绍
（1）查找具有某些特征文件的命令，可遍历当前目录甚至于整个文件系统来查看某些文件或目录，其遍历大的文件系统时一般放在后台执行。
（2）find命令的一般形式
find pathname-options [-print-exec-ok]
-pathname:find命令所查找的目录路径。如用"."来表示当前的目录，用/来表示系统根目录
-print:find命令将匹配的文件输出到标准输出
-exec: find命令对匹配的文件执行该参数所给出的shell命令，相应的命令形式为
'command'{}\;(注意{}和\之间的空格)
-ok和-exec的作用相同，只不过以一种更为安全的模式来执行该参数所给出的shell命令，在执行每一个命令之前，都会给出提示，让用户来确定是否执行。
options有如下几种：
-name：按照文件名查找文件
-perm：按照文件权限来查找文件
-user：按照文件属主来查找文件
-group：按照文件所属的组来查找文件
-mtime-n+n按照文件的更改时间来查找文件，-n表示文件更改时间距现在n天以内，+n表示文件更改时间距现在n天以前。find命令还有-atime和-ctime选项，但它们都和-mtime选项相似。
-size n[c]查找文件长度为n块的文件，带有c时表示文件长度以字节计。
-nogroup查找无有效所属组的文件，即该文件所属的组在/etc/groups中不存在
-newer file1!file2查找更改时间比文件file1新但比文件file2旧的文件
-depth先查找指定目录有无匹配文件，若无则再在子目录中查找
-type查找某一类型的文件，如
b:块设备文件
d：目录
e：字符设备文件
p；管道文件
l：符号链接文件
f：普通文件
（3）find命令举例
find-name"*.txt"-print查找txt结尾的文件并输出到屏幕上
find/cmd".sh"-print查找/cmd目录下所有sh文件，并输出
find.-perm 755-print查找当前目录下权限为755的文件，并输出
find `pwd`-user root-print查找当前目录下属主为root的文件，并输出
find./-group sunwill-print查找当前目录下所属主是sunwill的文件
find/var-mtime-5-print查找/var目录下更改时间为5天内的所有文件
find/var-mtime+5-print查找/var目录下更改时间为5天以前的所有文件
find/var-newer"myfile1"!-newer"myfile2"-print查找/var目录下比myfile1新，但是比myfile2旧的所有文件。
find/var-type d-print查找/var目录下所有目录
find/var-type l-print查找/var目录下所有的符号链接文件。
find.-size+1000000c-print查找当前目录下大于1000000字节的文件
find/-name"con.file"-depth-print查找根目录下有无"con.file",若无则在其子目录中查找
find.-type f-exec ls-l{}\;查找当前目录下是否有普通文件，若有则执行ls-l
（4）xargs命令
在使用find命令的-exec选项处理匹配到的文件时，find命令将所有匹配到的文件一起传递给exec。不幸的是，有些系统对能够传递给exec的命令长度有限制，这样find命令运行几分钟之后就算出现溢出错误。错误信息通常是“参数列太长”或“参数列溢出”。这就是xargs的用处所在，特别是与 find命令一起使用,exec会发起多个进程，而xargs会多个，只有一个
find./-perm-7-print| xargs chmod o-w查找权限为7的文件并传递给chmod处理
3.grep介绍
(1)grep的一般格式为 grep [options]基本正则表达式 [文件]
字符串参数最好采用是双引号括，一是以防被误解为shell命令，二是可以用来查找多个单词组成的字符串
-c：只输出匹配行的记数
-i：不区分大小写（只适用于单个字符）
-h：查询多个文件时不显示文件名
-H：只显示文件名
-l：查询多文件时只输出包含匹配字符的文件名
-n：只显示匹配行及其行号
-s：不显示不存在或无匹配文本的错误信息。
-v：显示不包含匹配文本的所有行。
（2）举例说明：
grep ^[^210] myfile匹配myfile中以非2、1、0开头的行
grep"[5-8][6-9][0-3]" myfile匹配myfile中第一位为5|6|7|8，第二位6|7|8|9，第三位为0|1|2|3的三个字符的行
grep"4\{2,4\}" myfile匹配myfile中含有44,444或4444的行
grep"\?" myfile匹配myfile中含有任意字符的行
（3）grep命令类名
[[:upper:]]表示[A-Z]
[[:alnum:]]表示[0-9a-zA-Z]
[[:lower:]]表示[a-z]
[[:space:]]表示空格或者tab键
[[:digit:]]表示[0-9]
[[:alpha:]]表示[a-zA-Z]
如：grep"5[[:digit:]][[:digit:]]" myfile匹配myfile中含有5开头接下去两位都是数字的行。
4.awk介绍
可以从文件或字符串中基于指定规则浏览和抽取信息，是一种自解释的变成语言。
（1）awk命令行方式 awk [-F filed-spearator]'command' input-files
awk脚本：所有awk命令插入一个文件，并使awk程序可执行，然后用awk命令解释器作为脚本的首行，以便通过键入脚本名称来调用它。awk脚本是由各种操作和模式组成。
模式部分决定动作语句何时触发及触发事件。（BEGIN,END）
动作对数据进行处理，放在{}内指明（print）
（2）分隔符、域和记录
awk执行时，其浏览域标记为$1,$2,...$n.这种方法成为域标识。$0为所有域。
（3）举例说明:
awk'{print$0}' test.txt|tee test.out输出test.txt中所有行$0表示所有域
awk-F:'{print$1} test.txt|tee test.out'同上。。只是分隔符为":"
awk'BEGIN{print"IPDate\n"}{print$1"\t"$4} END{print"end-of-report"}' test.txt
开始时打印“IPDate”结束时打印“end-of-report”中间打印主体信息，比如总共匹配三条信息，则输出如下：
IPDate
1 first
2 second
3 third
end-of-report
（4）匹配操作符~匹配,!~不匹配
cat test.txt|awk'$0~/210.34.0.13/'匹配test.txt中为210.34.0.13的行
awk'$0!~/210.34.0.13' test.txt匹配test.txt中不是210.34.0.13的行
awk'{if($1=="210.34.0.13") print$0}' test.txt匹配 test.txt中第一个域为210.34.0.13的行。
5.sed介绍
sed不与初始化文件打交道，它操作的只是一个拷贝，然后所有的改动如果没有重定向到一个文件，将输出到屏幕。
sed是一种很重要的文本过滤工具，使用一行命令或者使用管道与grep与awk相结合。是一种非交互性文本流编辑。
（1）调用sed的三种方式
使用sed命令行格式为：sed [options] sed命令输入文件
使用sed脚本文件格式为：sed[options]-f sed脚本文件输入文件
sed脚本文件[options]输入文件
--不管是使用shell命令行方式或脚本文件方式，如果没有指定输入文件，sed从标准输入中接受输入，一般是键盘或重定向结果。
（2）sed命令的options如下
-n：不打印
-c：下一命令是编辑命令
-f：如果正在调用sed脚本文件
（3）sed在文件中查询文本的方式
--使用行号，可以是一个简单的数字，或是一个行号的范围
--使用正则表达式
（4）读取文本的方式
x x为一行号
x,y表示行号范围从x到y
/pattern/查询包含模式的行
/pattern/pattern/查询包含两个模式的行
pattern/,x在给定的行号上查询包含模式的行
x,/pattern/通过行号和模式查询匹配行
x,y!查询不包含指定行号x和y的行
（5）基本sed编辑命令
p打印匹配行
d删除匹配行
=显示文件行号
a\在定位行号后附加新文本信息
i\在定位行号后插入新文本信息
c\用新文本替换定位文本
s使用替换模式替换相应模式
r从另一个文件中读文件
w写文本到一个文件
q第一个模式匹配完成后推出或立即退出
l显示与八禁止ASCII代码等价的控制字符
{}在定位行执行的命令组
n从另一个文件中读文本下一行，并附加在下一行
g将模式2粘贴到/pattern n/
y传送字符
（6）举例说明：
sed-n'2p' test.txt打印第二行的信息(注意：-n是不打印不匹配的信息，若没加-n，则打印文件的所有信息而不是匹配信息)
sed-n'1,4p' test.txt打印第一行到第四行的信息
sed-n'/los/p' test.txt模式匹配los，并打印出来
sed-n'2,/los/p' test.txt从第二行开始。。知道匹配第一个los
sed-n'/^$/p' test.txt匹配空行
sed-n-e'/^$/p'-e'/^$/=' test.txt打印空行及行号
sed-n'/good/a\morning' test.txt在匹配到的good后面附加morning
sed-n'/good/i\morning' test.txt在匹配到的good前面插入morning
sed-n'/good/c\morning' test.txt将匹配到的good替换成morning
sed'1,2d' test.txt删除第1和2行
sed's/good/good morning/g' test.txt匹配good并替换成goodmorning
send's/good/& hello/p' test.txt匹配到good就在其后面加上hello
send's/good/ hello&/p' test.txt匹配到good就在其前面加上hello
6.合并与分割（sort,uniq,join,cut,paste,split）
(1)sot命令
sort [options] files许多不同的域按不同的列顺序排序
-c测试文件是否已经排序
-m合并两个排序文件
-u删除所有同样行
-o存储sort结果的输出文件名
-t域分隔符，用非空格或tab开始排序
+n：n为列号，使用此列号开始排序
-n指定排序是域上的数字分类项
-r比较求逆
sort-c test.txt测试文件是否分类过
sort-u test.txt排序并合并一样的行
sort-r test.txt以相反的顺序排列
sort-t"/"+2 test.txt以"/"分隔，第二个域开始分类
（2）uniq命令
uniq [options ] files从一个文本文件中去除或禁止重复行
-u只显示不重复行
-d只显示有重复数据行，每种重复行只显示其中一行
-c打印每一重复行出现次数
-f：n为数字，前n个域被忽略
uniq-f 2 test.txt忽略前2个域
（3）join命令
join [options] file1 file2用来将来自两个分类文本文件的行连在一起
-an，n为一数字，用于连接时从文件n中显示不匹配行
-onm，连接域，n为文件号，m为域号
-jnm，n为文件号，m为域号，使用其他域作连接域
-t，域分隔符。用来设置非空格或tab键的域分隔符。
（4）split命令
split-output_file_size intput_filename output_filename
用来将大文件分割成小文件。
-b n，每个分割文件的大小n
-C n，每个分割文件一行最多n字节
-l n，每个分割文件的行数
-n，同-l n
split-10 test.txt将test.txt分割成10行的小文件
（5）cut命令
cut-c n1-n2 filename显示每行从开头算起 n1到 n2的文字。
cut-c 3-5 test.txt显示test.txt中每行从第3到第5个字符
Linux查找文件内容的常用命令方法：
1、从文件内容查找匹配指定字符串的行：
$ grep"被查找的字符串"文件名
2、从文件内容查找与正则表达式匹配的行：
$ grep–e“正则表达式”文件名
3、查找时不区分大小写：
$ grep–i"被查找的字符串"文件名
4、查找匹配的行数：
$ grep-c"被查找的字符串"文件名
5、从文件内容查找不匹配指定字符串的行：
$ grep–v"被查找的字符串"文件名
6、从根目录开始查找所有扩展名为.log的文本文件，并找出包含”ERROR”的行
find/-type f-name"*.log"| xargs grep"ERROR"
7、例子：查找/SqLogs/access.log文件中包含".exe"或者"TCP_DENIED"的记录
方法1：grep/SqLogs/access.log–e".exe”
grep/SqLogs/access.log–e"TCP_DENIED”
方法2：find/SqLogs–type f–name access.log| xargs grep".exe"
find/SqLogs–type f–name access.log| xargs grep"TCP_DENIED"
因为公司是通过SQUID代理服务器共享上网的，有时候因为某些原因，新版本的应用程序或者财务报税软件会无法使用，所以只有查看 access.log文件，查找原因！由于LOG文件太大了，虽然每天都执行压缩重建LOG文件，但几十M的LOG文件里的内容太多，直接打开查看再查找很浪费时间，也很麻烦！之前用
tail–n 100/SqLogs/access.log命令找起来也很麻烦，上面的两个命令帮了我很大的忙，很短的时间就可以帮我找到问题所在！分享给大家！
如何在linux中去除文件中的空行
在Linux环境中，去除文件中的空行，能够使文本数据更加整洁、易于阅读。以下介绍两种可行的方法，通过使用`sed`命令实现。
方案1：直接修改原文件
要直接修改名为`patientID.txt`的文件并删除所有空行，可以执行以下命令：
bash
sed-i'/^$/d' patientID.txt
这里的关键在于正则表达式`/^$/`，它匹配那些完全为空的行。`d`命令则告知`sed`删除这些匹配到的行。
方案2：输出到新文件
如果你希望保持原文件不被修改，并创建一个去除了空行的新文件，可以使用以下命令：
bash
sed'/^$/d' patientID.txt> patientID_no_empty_lines.txt
这条命令同样使用正则表达式`/^$/`匹配空行，并通过`d`命令删除它们。最终，结果被定向到新文件`patientID_no_empty_lines.txt`。
总结而言，根据个人需要，你可以在选择方案后执行相关命令，从而去除指定文件中的空行。这种方式能够有效提升文本文件的整洁度与可读性。
linux删除文本文件空白行
在Linux中，处理文本文件中的空白行，可借助多种命令行工具实现，以下为部分常用方法。
sed命令
sed命令允许用户在文件中执行文本模式编辑，通过`sed-i's/^$/d/' filename.txt`命令，直接在原文件中删除所有空白行。这里，`/^$/`匹配空白行，`d`表示删除这些匹配的行。
要处理多个文件，可以使用通配符，如：`sed-i's/^$/d/'*.txt`，这将匹配所有以.txt结尾的文件并删除其中的空白行。
grep命令
grep命令用于搜索文件中的指定模式。通过`grep-v'^$' filename.txt> newfile.txt`命令，可以将除空白行外的行输出到新文件`newfile.txt`中。`-v`参数表示反向选择，`'^$'`匹配空白行。
处理多个文件时，可以使用通配符，如：`grep-v'^$'*.txt> newfile.txt`，这将匹配所有以.txt结尾的文件并输出除空白行外的内容到`newfile.txt`。
awk命令
awk命令强大，用于文本文件处理。通过`awk'NF' filename.txt> newfile.txt`命令，可以仅保留非空白行到`newfile.txt`中。`NF`表示输出非空行。
要处理多个文件，使用通配符：`awk'NF'*.txt> newfile.txt`，这将处理所有以.txt结尾的文件，输出非空白行到`newfile.txt`。
tr结合grep命令
tr命令用于文本转换，通过`tr-d'[:space:]' newfile.txt`命令，可以将所有空白字符替换为无内容，然后使用`grep-v'^$' newfile.txt`过滤出非空白行。`-d'[:space:]'`替换所有空白字符。
处理多个文件时，可使用通配符：`tr-d'[:space:]' newfile.txt`，这将处理所有以.txt结尾的文件，去除空白行。
perl命令
perl命令提供了强大的文本处理功能。通过`perl-i-pe's/^\s*$//;' filename.txt`命令，可以删除文件中的所有空白行。`-i`表示直接修改原文件，`^\s*$`匹配只包含空白字符的行。
处理多个文件：`perl-i-pe's/^\s*$//;'*.txt`，这将处理所有以.txt结尾的文件，删除空白行。
paste命令
paste命令可以将多个文件合并为一个文件。通过`paste-s-d'' filename.txt> newfile.txt`命令，可以将`filename.txt`文件中的所有行合并为一行，每行之间添加换行符。`-s`表示合并多个文件，`-d''`表示在每行之间添加一个空格。
处理多个文件时：`paste-s-d'' newfile.txt`，这将合并所有以.txt结尾的文件，输出到`newfile.txt`。
