centos tee?centos7哪个版本好
Centos中记录终端输出到文本文件的方法
一,把命令运行的结果保存到文件当中:用把输出转向就可以了
例子:
$ ls ls.txt #或者 ls--ls.txt #把ls命令的运行结果保存到文件ls.txt中
说明:是把输出转向到指定的文件,如文件已存在的话也会重新写入,文件原内容不会保留
是把输出附向到文件的后面,文件原内容会保留下来
二,在输出信息的同时把信息记录到文件中: tee命令
解释一下tee的作用:
read from standard input and write to standard output and files,它从标准输入读取内容并将其写到标准输出和文件中
参数:-a,--append,append to the given FILEs, do not overwrite,附加至给出的文件,而不是覆盖它
例子:
$ ls| tee ls.txt #将会在终端上显示ls命令的执行结果,并把执行结果输出到ls.txt文件中
$ls| tee-a ls.txt #保留ls.txt文件中原来的内容,并把ls命令的执行结果添加到ls.txt文件的后面。
三,多个命令的输出都需要记录: script命令
script这个命令很强大,可以记录终端的所有输出到相应的文件中
例子:
1.$ script
Script. started, file is typescript
2.$ ls
内容省略
3.$ exit
exit
Script. done, file is typescript
4.$cat typescript #就会把上面绿色的部分再显示一次:
说明:
1,我们在启动script时没有指定文件名,它会自动记录到当前目录下一个名为 typescript的文件中。也可以用-a参数指定文件名
例子:
$script.-a example.txt#终端的输出内容被记录到 example.txt这个文件中
2,退出script时,用exit,事实上script就是启动了一个shell
如何在CentOS 7上安装Elasticsearch,Logstash和Kibana
您的ELK服务器将需要的CPU,RAM和存储量取决于您要收集的日志的卷。在本教程中,我们将使用具有以下规格的VPS用于我们的ELK服务器:
OS: CentOS 7
RAM: 4GB
CPU: 2
注:根据自己的服务器资源分配各个节点的资源
安装 Java 8
Elasticsearch和Logstash需要Java,所以我们现在就安装它。我们将安装最新版本的Oracle Java 8,因为这是Elasticsearch推荐的版本。
注:建议本地下载完最新版的JDK,然后上传到服务器的/usr/local/src目录
# JDK下载地址:
123123
然后使用此yum命令安装RPM(如果您下载了不同的版本,请在此处替换文件名):
yum-y localinstall jdk-8u111-linux-x64.rpm
# or
rpm-ivh jdk-8u111-linux-x64.rpm123123
现在Java应该安装在/usr/java/jdk1.8.0_111/jre/bin/java,并从/usr/bin/java链接。
安装 Elasticsearch
Elasticsearch可以通过添加Elastic的软件包仓库与软件包管理器一起安装。
运行以下命令将Elasticsearch公共GPG密钥导入rpm:
#
rpm--import
在基于RedHat的发行版的/etc/yum.repos.d/目录中创建一个名为elasticsearch.repo的文件,其中包括:
echo'[elasticsearch-5.x]
name=Elasticsearch repository for 5.x packages
baseurl=
gpgcheck=1
gpgkey=
enabled=1
autorefresh=1
type=rpm-md
'| sudo tee/etc/yum.repos.d/elasticsearch.repo123456789123456789
Elasticsearch源创建完成之后,通过makecache查看源是否可用,然后通过yum安装Elasticsearch:
yum makecache
yum install elasticsearch-y1212
要将Elasticsearch配置为在系统引导时自动启动,请运行以下命令:
sudo/bin/systemctl daemon-reload
sudo/bin/systemctl enable elasticsearch.service1212
Elasticsearch可以按如下方式启动和停止:
sudo systemctl start elasticsearch.service
sudo systemctl stop elasticsearch.service1212
这些命令不会提供有关Elasticsearch是否已成功启动的反馈。相反,此信息将写入位于/ var/ log/ elasticsearch/中的日志文件中。
默认情况下,Elasticsearch服务不会记录systemd日志中的信息。要启用journalctl日志记录,必须从elasticsearch中的ExecStart命令行中删除–quiet选项。服务文件。
#注释24行的--quiet\
vim/etc/systemd/system/multi-user.target.wants/elasticsearch.service1212
当启用systemd日志记录时,使用journalctl命令可以获得日志记录信息:
使用tail查看journal:
sudo journalctl-f11
要列出elasticsearch服务的日记帐分录:
sudo journalctl--unit elasticsearch11
要从给定时间开始列出elasticsearch服务的日记帐分录:
sudo journalctl--unit elasticsearch--since"2017-1-4 10:17:16"
# since表示指定时间之前的记录123123
使用man journalctl查看journalctl更多使用方法
检查Elasticsearch是否正在运行
您可以通过向localhost上的端口9200发送HTTP请求来测试Elasticsearch节点是否正在运行:
curl-XGET'localhost:9200/?pretty'
1212
我们能得到下面这样的回显:
{
"name":"De-LRNO",
"cluster_name":"elasticsearch",
"cluster_uuid":"DeJzplWhQQK5uGitXr8jjA",
"version":{
"number":"5.1.1",
"build_hash":"5395e21",
"build_date":"2016-12-06T12:36:15.409Z",
"build_snapshot": false,
"lucene_version":"6.3.0"
},
"tagline":"You Know, for Search"
}1234567891011121312345678910111213
配置 Elasticsearch
Elasticsearch从默认的/etc/elasticsearch/elasticsearch.yml加载配置文件,
配置文件的格式考:
[root@linuxprobe~]# egrep-v"^#|^$"/etc/elasticsearch/elasticsearch.yml
[root@linuxprobe~]# egrep-v"^#|^$"/etc/elasticsearch/elasticsearch.yml
node.name: node-1
path.data:/var/lib/elasticsearch
path.logs:/var/log/elasticsearch
network.host: 10.1.1.53#默认localhost,自定义为ip
http.port: 920012345671234567
RPM还具有系统配置文件(/etc/sysconfig/elasticsearch),允许您设置以下参数:
[root@linuxprobe elasticsearch]# egrep-v"^#|^$"/etc/sysconfig/elasticsearch
ES_HOME=/usr/share/elasticsearch
JAVA_HOME=/usr/java/jdk1.8.0_111
CONF_DIR=/etc/elasticsearch
DATA_DIR=/var/lib/elasticsearch
LOG_DIR=/var/log/elasticsearch
PID_DIR=/var/run/elasticsearch12345671234567
日志配置
Elasticsearch使用Log4j 2进行日志记录。 Log4j 2可以使用log4j2配置。属性文件。 Elasticsearch公开单个属性${sys:es。日志},可以在配置文件中引用以确定日志文件的位置;这将在运行时解析为Elasticsearch日志文件的前缀。
例如,如果您的日志目录是/var/log/elasticsearch并且您的集群名为production,那么${sys:es。 logs}将解析为/var/log/elasticsearch/production。
默认日志配置存在:/etc/elasticsearch/log4j2.properties
安装 Kibana
Kibana的RPM可以从ELK官网或从RPM存储库下载。它可用于在任何基于RPM的系统(如OpenSuSE,SLES,Centos,Red Hat和Oracle Enterprise)上安装Kibana。
导入Elastic PGP Key
我们使用弹性签名密钥(PGP密钥D88E42B4,可从)签名所有的包,指纹:
rpm--import
创建kibana源
echo'[kibana-5.x]
name=Kibana repository for 5.x packages
baseurl=
gpgcheck=1
gpgkey=
enabled=1
autorefresh=1
type=rpm-md
'| sudo tee/etc/yum.repos.d/kibana.repo123456789123456789
kibana源创建成功之后,makecache后使用yum安装kibana:
yum makecache&& yum install kibana-y11
使用systemd运行Kibana
要将Kibana配置为在系统引导时自动启动,请运行以下命令:
sudo/bin/systemctl daemon-reload
sudo/bin/systemctl enable kibana.service1212
Kibana可以如下启动和停止
sudo systemctl start kibana.service
sudo systemctl stop kibana.service1212
配置Kibana
Kibana默认从/etc/kibana/kibana.yml文件加载其配置。
参考:
注意:本实验教程把localhost都改成服务器IP,如果不更改localhost,需要设置反向代理才能访问到kibana。
在同一服务器上安装一个Nginx反向代理,以允许外部访问。
安装nginx
配置Kibana在localhost上监听,必须设置一个反向代理,允许外部访问它。本文使用Nginx来实现发向代理。
创建nginx官方源来安装nginx
#
echo'[nginx]
name=nginx repo
baseurl=$releasever/$basearch/
gpgcheck=0
enabled=1
'| sudo tee/etc/yum.repos.d/nginx.repo1234567812345678
使用yum安装nginx和httpd-tools
yum install nginx httpd-tools-y11
使用htpasswd创建一个名为“kibanaadmin”的管理员用户(可以使用其他名称),该用户可以访问Kibana Web界面:
[root@linuxprobe~]# htpasswd-c/etc/nginx/htpasswd.users kibanaadmin
New password:#自定义
Re-type new password:
Adding password for user kibanaadmin12341234
使用vim配置nginx配置文件
[root@linuxprobe~]# egrep-v"#|^$"/etc/nginx/conf.d/kibana.conf
server{
listen 80;
server_name kibana.aniu.co;
access_log/var/log/nginx/kibana.aniu.co.access.log main;
error_log/var/log/nginx/kibana.aniu.co.access.log;
auth_basic"Restricted Access";
auth_basic_user_file/etc/nginx/htpasswd.users;
location/{
proxy_pass ;
proxy_http_version 1.1;
proxy_set_header Upgrade$http_upgrade;
proxy_set_header Connection'upgrade';
proxy_set_header Host$host;
proxy_cache_bypass$http_upgrade;
}
}12345678910111213141516171234567891011121314151617
Centos查找目录下所有文件中是否包含指定字符串的方法
linux下查找目录下的所有文件中是否包含指定字符串
find.|xargsgrep-ri"IBM"
查找目录下的所有文件中是否含有某个字符串,并且只打印出文件名
find.|xargsgrep-ril"IBM"
1.正则表达式
(1)正则表达式一般用来描述文本模式的特殊用法,由普通字符(例如字符a-z)以及特殊字符(称为元字符,如/、*、?等)组成。
(2)基本元字符集及其含义
^:只匹配行首。如^a匹配以a开头的行abc,a2e,a12,aaa,......
$:只匹配行尾。如^a匹配以a结尾的行bca,12a,aaa,.......
*:匹配0个或多个此单字符。如(a)*匹配空,a,aa,aaa,....
[]:只匹配[]内字符。可以是一个单字符,也可以是字符序列,用","将里面要匹配的不同字符串分开。也可以使用-来表示[]内字符序列的范围,如[1-5]表示[12345]
\:只用来屏蔽一个元字符的特殊含义。如\*,\',\",\|,\+,\^,\.等
.:(点)只匹配任意单字符。
pattern\{n\}:只用来匹配前面pattern出现的次数.n为次数。如a\{2\}匹配aa.
pattern\{n,\}:含义同上,但次数最少为n.如a\{2,\}匹配aa,aaa,aaaa,.....
pattern\{n,m\}:含义同上,但次数在n和m之间。如a\{2,4\}匹配aa,aaa,aaaa三个
(3)举例说明:
^$:匹配空行
^.$:匹配包含一个字符的行
\*\.pas:匹配以*.pas结尾的所有字符或文件
[0123456789]或[0-9]:假定要匹配任意一个数字
[a-z]:任意小写字母
[A-Za-z]:任意大小写字母
[S,s]:匹配大小写S
[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}\.[0-9]\{3\}:匹配IP地址 [0-9]\{3\}三个0-9组成的字符串;\.:匹配点(注意这里点是特殊的字符,所以要用"\"来屏蔽其含义)
2.find介绍
(1)查找具有某些特征文件的命令,可遍历当前目录甚至于整个文件系统来查看某些文件或目录,其遍历大的文件系统时一般放在后台执行。
(2)find命令的一般形式
find pathname-options [-print-exec-ok]
-pathname:find命令所查找的目录路径。如用"."来表示当前的目录,用/来表示系统根目录
-print:find命令将匹配的文件输出到标准输出
-exec: find命令对匹配的文件执行该参数所给出的shell命令,相应的命令形式为
'command'{} \;(注意{}和\之间的空格)
-ok和-exec的作用相同,只不过以一种更为安全的模式来执行该参数所给出的shell命令,在执行每一个命令之前,都会给出提示,让用户来确定是否执行。
options有如下几种:
-name:按照文件名查找文件
-perm:按照文件权限来查找文件
-user:按照文件属主来查找文件
-group:按照文件所属的组来查找文件
-mtime-n+n按照文件的更改时间来查找文件,-n表示文件更改时间距现在n天以内,+n表示文件更改时间距现在n天以前。find命令还有-atime和-ctime选项,但它们都和-mtime选项相似。
-size n[c]查找文件长度为n块的文件,带有c时表示文件长度以字节计。
-nogroup查找无有效所属组的文件,即该文件所属的组在/etc/groups中不存在
-newer file1!file2查找更改时间比文件file1新但比文件file2旧的文件
-depth先查找指定目录有无匹配文件,若无则再在子目录中查找
-type查找某一类型的文件,如
b:块设备文件
d:目录
e:字符设备文件
p;管道文件
l:符号链接文件
f:普通文件
(3)find命令举例
find-name"*.txt"-print查找txt结尾的文件并输出到屏幕上
find/cmd".sh"-print查找/cmd目录下所有sh文件,并输出
find.-perm 755-print查找当前目录下权限为755的文件,并输出
find `pwd`-user root-print查找当前目录下属主为root的文件,并输出
find./-group sunwill-print查找当前目录下所属主是sunwill的文件
find/var-mtime-5-print查找/var目录下更改时间为5天内的所有文件
find/var-mtime+5-print查找/var目录下更改时间为5天以前的所有文件
find/var-newer"myfile1"!-newer"myfile2"-print查找/var目录下比myfile1新,但是比myfile2旧的所有文件。
find/var-type d-print查找/var目录下所有目录
find/var-type l-print查找/var目录下所有的符号链接文件。
find.-size+1000000c-print查找当前目录下大于1000000字节的文件
find/-name"con.file"-depth-print查找根目录下有无"con.file",若无则在其子目录中查找
find.-type f-exec ls-l{} \;查找当前目录下是否有普通文件,若有则执行ls-l
(4)xargs命令
在使用find命令的-exec选项处理匹配到的文件时,find命令将所有匹配到的文件一起传递给exec。不幸的是,有些系统对能够传递给exec的命令长度有限制,这样find命令运行几分钟之后就算出现溢出错误。错误信息通常是“参数列太长”或“参数列溢出”。这就是xargs的用处所在,特别是与 find命令一起使用,exec会发起多个进程,而xargs会多个,只有一个
find./-perm-7-print| xargs chmod o-w查找权限为7的文件并传递给chmod处理
3.grep介绍
(1)grep的一般格式为 grep [options]基本正则表达式 [文件]
字符串参数最好采用是双引号括,一是以防被误解为shell命令,二是可以用来查找多个单词组成的字符串
-c:只输出匹配行的记数
-i:不区分大小写(只适用于单个字符)
-h:查询多个文件时不显示文件名
-H:只显示文件名
-l:查询多文件时只输出包含匹配字符的文件名
-n:只显示匹配行及其行号
-s:不显示不存在或无匹配文本的错误信息。
-v:显示不包含匹配文本的所有行。
(2)举例说明:
grep ^[^210] myfile匹配myfile中以非2、1、0开头的行
grep"[5-8][6-9][0-3]" myfile匹配myfile中第一位为5|6|7|8,第二位6|7|8|9,第三位为0|1|2|3的三个字符的行
grep"4\{2,4\}" myfile匹配myfile中含有44,444或4444的行
grep"\?" myfile匹配myfile中含有任意字符的行
(3)grep命令类名
[[:upper:]]表示[A-Z]
[[:alnum:]]表示[0-9a-zA-Z]
[[:lower:]]表示[a-z]
[[:space:]]表示空格或者tab键
[[:digit:]]表示[0-9]
[[:alpha:]]表示[a-zA-Z]
如:grep"5[[:digit:]][[:digit:]]" myfile匹配myfile中含有5开头接下去两位都是数字的行。
4.awk介绍
可以从文件或字符串中基于指定规则浏览和抽取信息,是一种自解释的变成语言。
(1)awk命令行方式 awk [-F filed-spearator]'command' input-files
awk脚本:所有awk命令插入一个文件,并使awk程序可执行,然后用awk命令解释器作为脚本的首行,以便通过键入脚本名称来调用它。awk脚本是由各种操作和模式组成。
模式部分决定动作语句何时触发及触发事件。(BEGIN,END)
动作对数据进行处理,放在{}内指明(print)
(2)分隔符、域和记录
awk执行时,其浏览域标记为$1,$2,...$n.这种方法成为域标识。$0为所有域。
(3)举例说明:
awk'{print$0}' test.txt|tee test.out输出test.txt中所有行$0表示所有域
awk-F:'{print$1} test.txt|tee test.out'同上。。只是分隔符为":"
awk'BEGIN{print"IPDate\n"}{print$1"\t"$4} END{print"end-of-report"}' test.txt
开始时打印“IPDate”结束时打印“end-of-report”中间打印主体信息,比如总共匹配三条信息,则输出如下:
IPDate
1 first
2 second
3 third
end-of-report
(4)匹配操作符~匹配,!~不匹配
cat test.txt|awk'$0~/210.34.0.13/'匹配test.txt中为210.34.0.13的行
awk'$0!~/210.34.0.13' test.txt匹配test.txt中不是210.34.0.13的行
awk'{if($1=="210.34.0.13") print$0}' test.txt匹配 test.txt中第一个域为210.34.0.13的行。
5.sed介绍
sed不与初始化文件打交道,它操作的只是一个拷贝,然后所有的改动如果没有重定向到一个文件,将输出到屏幕。
sed是一种很重要的文本过滤工具,使用一行命令或者使用管道与grep与awk相结合。是一种非交互性文本流编辑。
(1)调用sed的三种方式
使用sed命令行格式为:sed [options] sed命令输入文件
使用sed脚本文件格式为:sed[options]-f sed脚本文件输入文件
sed脚本文件[options]输入文件
--不管是使用shell命令行方式或脚本文件方式,如果没有指定输入文件,sed从标准输入中接受输入,一般是键盘或重定向结果。
(2)sed命令的options如下
-n:不打印
-c:下一命令是编辑命令
-f:如果正在调用sed脚本文件
(3)sed在文件中查询文本的方式
--使用行号,可以是一个简单的数字,或是一个行号的范围
--使用正则表达式
(4)读取文本的方式
x x为一行号
x,y表示行号范围从x到y
/pattern/查询包含模式的行
/pattern/pattern/查询包含两个模式的行
pattern/,x在给定的行号上查询包含模式的行
x,/pattern/通过行号和模式查询匹配行
x,y!查询不包含指定行号x和y的行
(5)基本sed编辑命令
p打印匹配行
d删除匹配行
=显示文件行号
a\在定位行号后附加新文本信息
i\在定位行号后插入新文本信息
c\用新文本替换定位文本
s使用替换模式替换相应模式
r从另一个文件中读文件
w写文本到一个文件
q第一个模式匹配完成后推出或立即退出
l显示与八禁止ASCII代码等价的控制字符
{}在定位行执行的命令组
n从另一个文件中读文本下一行,并附加在下一行
g将模式2粘贴到/pattern n/
y传送字符
(6)举例说明:
sed-n'2p' test.txt打印第二行的信息(注意:-n是不打印不匹配的信息,若没加-n,则打印文件的所有信息而不是匹配信息)
sed-n'1,4p' test.txt打印第一行到第四行的信息
sed-n'/los/p' test.txt模式匹配los,并打印出来
sed-n'2,/los/p' test.txt从第二行开始。。知道匹配第一个los
sed-n'/^$/p' test.txt匹配空行
sed-n-e'/^$/p'-e'/^$/=' test.txt打印空行及行号
sed-n'/good/a\morning' test.txt在匹配到的good后面附加morning
sed-n'/good/i\morning' test.txt在匹配到的good前面插入morning
sed-n'/good/c\morning' test.txt将匹配到的good替换成morning
sed'1,2d' test.txt删除第1和2行
sed's/good/good morning/g' test.txt匹配good并替换成goodmorning
send's/good/& hello/p' test.txt匹配到good就在其后面加上hello
send's/good/ hello&/p' test.txt匹配到good就在其前面加上hello
6.合并与分割(sort,uniq,join,cut,paste,split)
(1)sot命令
sort [options] files许多不同的域按不同的列顺序排序
-c测试文件是否已经排序
-m合并两个排序文件
-u删除所有同样行
-o存储sort结果的输出文件名
-t域分隔符,用非空格或tab开始排序
+n:n为列号,使用此列号开始排序
-n指定排序是域上的数字分类项
-r比较求逆
sort-c test.txt测试文件是否分类过
sort-u test.txt排序并合并一样的行
sort-r test.txt以相反的顺序排列
sort-t"/"+2 test.txt以"/"分隔,第二个域开始分类
(2)uniq命令
uniq [options ] files从一个文本文件中去除或禁止重复行
-u只显示不重复行
-d只显示有重复数据行,每种重复行只显示其中一行
-c打印每一重复行出现次数
-f:n为数字,前n个域被忽略
uniq-f 2 test.txt忽略前2个域
(3)join命令
join [options] file1 file2用来将来自两个分类文本文件的行连在一起
-an,n为一数字,用于连接时从文件n中显示不匹配行
-onm,连接域,n为文件号,m为域号
-jnm,n为文件号,m为域号,使用其他域作连接域
-t,域分隔符。用来设置非空格或tab键的域分隔符。
(4)split命令
split-output_file_size intput_filename output_filename
用来将大文件分割成小文件。
-b n,每个分割文件的大小n
-C n,每个分割文件一行最多n字节
-l n,每个分割文件的行数
-n,同-l n
split-10 test.txt将test.txt分割成10行的小文件
(5)cut命令
cut-c n1-n2 filename显示每行从开头算起 n1到 n2的文字。
cut-c 3-5 test.txt显示test.txt中每行从第3到第5个字符