centos ha centos现在哪个版本最流行

本篇文章给大家谈谈centos ha,以及centos现在哪个版本最流行对应的知识点,文章可能有点长,但是希望大家可以阅读完,增长自己的知识,最重要的是希望对各位有所帮助,可以解决了您的问题,不要忘了收藏本站喔。

CentOS挂载lvm分区重名问题的解决方法

今天一个朋友的服务器硬盘出现问题,换了新硬盘安装好系统后,挂载老硬盘时出现了问题,在linux下使用新硬盘安装系统,安装好以后再挂载原来的硬盘,分区格式全为系统默认分区,系统默认使用的

是lvm格式,并且默认的卷都是 VolGroup00,好了,知道问题的原因就好办了,下面我们来解决这个问题

使用 pvs查看显示如下:

复制代码代码如下:

[root@localhost~]# pvs

PV VG Fmt Attr PSize PFree

/dev/sda2 VolGroup00 lvm2 a- 372.50G 0

/dev/sdb2 VolGroup00 lvm2 a- 136.62G 0

发现可以正确认别到两个VG,但是同名,如何挂载呢?

解决办法是,将原来的VG更名,解决冲突即可挂载。

重命名格式为:vgrename VolGroup00 VolGroup01

此时会提示:

复制代码代码如下:

[root@localhost~]# vgrename VolGroup00 VolGroup01

Found more than one VG called VolGroup00. Please supply VG uuid.

原因是存在两个 VolGroup00,修改的方法他已经提示了要指定 VG uuid即可。

查看VG uuid的命令为:

复制代码代码如下:

[root@localhost~]# vgs-v

Finding all volume groups

Finding volume group"VolGroup00"

Finding volume group"VolGroup00"

VG Attr Ext#PV#LV#SN VSize VFree VG UUID

VolGroup00 wz--n- 32.00M 120372.50G 0 dcHa6G-abU2-Xfq8-EPBm-jBLj-sf18-O5uH0U

VolGroup00 wz--n- 32.00M 120136.62G 0 OF8g7h-PQJB-9D9z-yPxn-1kfY-Advq-YbNHJ9

查到VG uuid以后,再次执行改名:

复制代码代码如下:

[root@localhost~]# vgrename OF8g7h-PQJB-9D9z-yPxn-1kfY-Advq-YbNHJ9 VolGroup01

Volume group"VolGroup00" still has active LVs

修改成功以后,再执行:lvscan

复制代码代码如下:

[root@localhost~]# lvscan

inactive'/dev/VolGroup01/LogVol00' [130.84 GB] inherit

inactive'/dev/VolGroup01/LogVol01' [1.94 GB] inherit

ACTIVE'/dev/VolGroup00/LogVol00' [367.09 GB] inherit

ACTIVE'/dev/VolGroup00/LogVol01' [5.41 GB] inherit

可以看到新修改的VolGroup01是inactive状态。

再使用vgchange加载 VolGroup01

复制代码代码如下:

[root@localhost~]# vgchange-ay/dev/VolGroup01

2 logical volume(s) in volume group"VolGroup01" now active

再执行:lvscan复制代码代码如下:

[root@localhost~]# lvscan

ACTIVE'/dev/VolGroup01/LogVol00' [134.69 GB] inherit

ACTIVE'/dev/VolGroup01/LogVol01' [1.94 GB] inherit

ACTIVE'/dev/VolGroup00/LogVol00' [367.09 GB] inherit

ACTIVE'/dev/VolGroup00/LogVol01' [5.41 GB] inherit

可以发现VolGroup01已经是ACTIVE状态了。

最后 mount就可以

复制代码代码如下:

[root@localhost~]# mount/dev/VolGroup01/LogVol00/data/www

至此,全部完成。

CentOS 停服!我们有哪些顶流的国产 Linux 操作系统

深度 Deepin:国内最受欢迎与成熟的 Linux操作系统,华为销售预装笔记本电脑。深度操作系统支持 33种语言,用户遍布全球六大洲,是第一个具备国际影响力的国产 Linux发行版本。

Anolis OS:采用与 RHEL/CentOS 100%兼容的内核与软件包,提供社区最新创新成果,支持多种硬件架构与计算场景,是 CentOS替代首选。

龙蜥操作系统(Anolis OS):定位于服务器市场,基于阿里巴巴的技术积累与创新,全面支持多种硬件架构,满足不同客户要求,适合能源、金融、交通、政府、央企等行业领域。

银河麒麟 KylinOS:起源于国防科技大学的 Linux操作系统,后与中标软件合并,形成服务器操作系统、桌面操作系统、嵌入式操作系统等,适合不同行业与领域。

中标麒麟 NeoKylin:采用强化的 Linux内核,分为多个版本,满足不同客户要求,广泛应用于能源、金融、交通、政府、央企等行业领域。

优麒麟 UbuntuKylin:基于 Ubuntu的官方中国定制版,更加适合国情与新手用户,对国内 Linux的普及与推广带来积极影响。

统信 uos:面向大型组织和个人用户,软硬件生态建设强大,支持多种 CPU架构,包括 x86、Arm、MIPS、SW等,提供对国产 CPU的全面支持。

OpenEuler:一个开源、免费的 Linux发行版平台,兼容 CentOS,对核心关键功能进行深度优化,构建了丰富的社区生态体系。

红旗 Linux:中国较大、较成熟的 Linux发行版之一,包括多个版本,提供桌面版、工作站版、数据中心服务器版、HA集群版和嵌入式 Linux等产品。

Alibaba Cloud Linux:基于龙蜥社区的 Anolis OS打造,全面兼容 RHEL/CentOS生态,优化云上应用程序的性能与安全性,提供云上操作系统体验。

TencentOS Server:腾讯针对云场景研发的 Linux操作系统,提供高性能与安全可靠的运行环境,为云服务器实例中的应用程序提供优化。

CutefishOS:基于 Ubuntu的 Linux桌面操作系统,注重简洁、美观与实用性,构建新的桌面环境,提供舒适的界面设计与更好的用户体验。

StartOS:东莞瓦力网络科技有限公司发行的开源操作系统,预装常用软件,运行速度快、安全稳定、界面美观、操作简洁明快,符合国人使用习惯。

方德桌面操作系统:采用现代审美的图形化用户界面设计,简洁、美观、友好,易于原 Windows用户上手使用,支持多种硬件架构与国产 CPU。

以上国产 Linux操作系统各有特色与优势,适合不同行业与领域的需求,是 CentOS停服后值得考虑的替代方案。

请教hadoop2.0的ha如何配置

1 Hadoop HA架构详解

1.1 HDFS HA背景

HDFS集群中NameNode存在单点故障(SPOF)。对于只有一个NameNode的集群,如果NameNode机器出现意外情况,将导致整个集群无法使用,直到NameNode重新启动。

影响HDFS集群不可用主要包括以下两种情况:一是NameNode机器宕机,将导致集群不可用,重启NameNode之后才可使用;二是计划内的NameNode节点软件或硬件升级,导致集群在短时间内不可用。

为了解决上述问题,Hadoop给出了HDFS的高可用HA方案:HDFS通常由两个NameNode组成,一个处于active状态,另一个处于standby状态。Active NameNode对外提供服务,比如处理来自客户端的RPC请求,而Standby NameNode则不对外提供服务,仅同步Active NameNode的状态,以便能够在它失败时快速进行切换。

1.2 HDFS HA架构

一个典型的HA集群,NameNode会被配置在两台独立的机器上,在任何时间上,一个NameNode处于活动状态,而另一个NameNode处于备份状态,活动状态的NameNode会响应集群中所有的客户端,备份状态的NameNode只是作为一个副本,保证在必要的时候提供一个快速的转移。

为了让Standby Node与Active Node保持同步,这两个Node都与一组称为JNS的互相独立的进程保持通信(Journal Nodes)。当Active Node上更新了namespace,它将记录修改日志发送给JNS的多数派。Standby noes将会从JNS中读取这些edits,并持续关注它们对日志的变更。Standby Node将日志变更应用在自己的namespace中,当failover发生时,Standby将会在提升自己为Active之前,确保能够从JNS中读取所有的edits,即在failover发生之前Standy持有的namespace应该与Active保持完全同步。

为了支持快速failover,Standby node持有集群中blocks的最新位置是非常必要的。为了达到这一目的,DataNodes上需要同时配置这两个Namenode的地址,同时和它们都建立心跳链接,并把block位置发送给它们。

任何时刻,只有一个Active NameNode是非常重要的,否则将会导致集群操作的混乱,那么两个NameNode将会分别有两种不同的数据状态,可能会导致数据丢失,或者状态异常,这种情况通常称为“split-brain”(脑裂,三节点通讯阻断,即集群中不同的Datanodes却看到了两个Active NameNodes)。对于JNS而言,任何时候只允许一个NameNode作为writer;在failover期间,原来的Standby Node将会接管Active的所有职能,并负责向JNS写入日志记录,这就阻止了其他NameNode基于处于Active状态的问题。

基于QJM的HDFS HA方案如上图所示,其处理流程为:集群启动后一个NameNode处于Active状态,并提供服务,处理客户端和DataNode的请求,并把editlog写到本地和share editlog(这里是QJM)中。另外一个NameNode处于Standby状态,它启动的时候加载fsimage,然后周期性的从share editlog中获取editlog,保持与Active节点的状态同步。为了实现Standby在Active挂掉后迅速提供服务,需要DataNode同时向两个NameNode汇报,使得Stadnby保存block to DataNode信息,因为NameNode启动中最费时的工作是处理所有DataNode的blockreport。为了实现热备,增加FailoverController和Zookeeper,FailoverController与Zookeeper通信,通过Zookeeper选举机制,FailoverController通过RPC让NameNode转换为Active或Standby。

1.3 HDFS HA配置要素

NameNode机器:两台配置对等的物理机器,它们分别运行Active和Standby Node。

JouralNode机器:运行JouralNodes的机器。JouralNode守护进程相当的轻量级,可以和Hadoop的其他进程部署在一起,比如NameNode、DataNode、ResourceManager等,至少需要3个且为奇数,如果你运行了N个JNS,那么它可以允许(N-1)/2个JNS进程失效并且不影响工作。

在HA集群中,Standby NameNode还会对namespace进行checkpoint操作(继承Backup Namenode的特性),因此不需要在HA集群中运行SecondaryNameNode、CheckpointNode或者BackupNode。

1.4 HDFS HA配置参数

需要在hdfs.xml中配置如下参数:

dfs.nameservices:HDFS NN的逻辑名称,例如myhdfs。

dfs.ha.namenodes.myhdfs:给定服务逻辑名称myhdfs的节点列表,如nn1、nn2。

dfs.namenode.rpc-address.myhdfs.nn1:myhdfs中nn1对外服务的RPC地址。

dfs.namenode.http-address.myhdfs.nn1:myhdfs中nn1对外服务http地址。

dfs.namenode.shared.edits.dir:JournalNode的服务地址。

dfs.journalnode.edits.dir:JournalNode在本地磁盘存放数据的位置。

dfs.ha.automatic-failover.enabled:是否开启NameNode失败自动切换。

dfs.ha.fencing.methods:配置隔离机制,通常为sshfence。

1.5 HDFS自动故障转移

HDFS的自动故障转移主要由Zookeeper和ZKFC两个组件组成。

Zookeeper集群作用主要有:一是故障监控。每个NameNode将会和Zookeeper建立一个持久session,如果NameNode失效,那么此session将会过期失效,此后Zookeeper将会通知另一个Namenode,然后触发Failover;二是NameNode选举。ZooKeeper提供了简单的机制来实现Acitve Node选举,如果当前Active失效,Standby将会获取一个特定的排他锁,那么获取锁的Node接下来将会成为Active。

ZKFC是一个Zookeeper的客户端,它主要用来监测和管理NameNodes的状态,每个NameNode机器上都会运行一个ZKFC程序,它的职责主要有:一是健康监控。ZKFC间歇性的ping NameNode,得到NameNode返回状态,如果NameNode失效或者不健康,那么ZKFS将会标记其为不健康;二是Zookeeper会话管理。当本地NaneNode运行良好时,ZKFC将会持有一个Zookeeper session,如果本地NameNode为Active,它同时也持有一个“排他锁”znode,如果session过期,那么次lock所对应的znode也将被删除;三是选举。当集群中其中一个NameNode宕机,Zookeeper会自动将另一个激活。

1.6 YARN HA架构

YARN的HA架构和HDFSHA类似,需要启动两个ResourceManager,这两个ResourceManager会向ZooKeeper集群注册,通过ZooKeeper管理它们的状态(Active或Standby)并进行自动故障转移。

2高可用集群规划

2.1集群规划

根据Hadoop的HA架构分析,规划整个集群由5台主机组成,具体情况如下表所示:

主机名

IP地址

安装的软件

JPS

hadoop-master1

172.16.20.81

Jdk/hadoop

Namenode/zkfc/resourcemanager/

JobHistoryServer

hadoop-master2

172.16.20.82

Jdk/hadoop

Namenode/zkfc/resourcemanager/

WebProxyServer

hadoop-slave1

172.16.20.83

Jkd/hadoop/zookeepe

Datanode/journalnode/nodemanager/

quorumPeerMain

hadoop-slave2

172.16.20.84

Jkd/hadoop/zookeeper

Datanode/journalnode/nodemanager/

quorumPeerMain

hadoop-slave3

172.16.20.85

Jkd/hadoop/zookeeper

Datanode/journalnode/nodemanager/

quorumPeerMain

需要说明以下几点:

HDFS HA通常由两个NameNode组成,一个处于Active状态,另一个处于Standby状态。Active NameNode对外提供服务,而Standby NameNode则不对外提供服务,仅同步Active NameNode的状态,以便能够在它失败时快速进行切换。

Hadoop 2.0官方提供了两种HDFS HA的解决方案,一种是NFS,另一种是QJM。这里我们使用简单的QJM。在该方案中,主备NameNode之间通过一组JournalNode同步元数据信息,一条数据只要成功写入多数JournalNode即认为写入成功。通常配置奇数个JournalNode,这里还配置了一个Zookeeper集群,用于ZKFC故障转移,当Active NameNode挂掉了,会自动切换Standby NameNode为Active状态。

YARN的ResourceManager也存在单点故障问题,这个问题在hadoop-2.4.1得到了解决:有两个ResourceManager,一个是Active,一个是Standby,状态由zookeeper进行协调。

YARN框架下的MapReduce可以开启JobHistoryServer来记录历史任务信息,否则只能查看当前正在执行的任务信息。

Zookeeper的作用是负责HDFS中NameNode主备节点的选举,和YARN框架下ResourceManaer主备节点的选举。

2.2软件版本

操作系统:CentOS Linux release 7.0.1406

JDK:Java(TM)SE Runtime Environment(build 1.7.0_79-b15)

Hadoop:Hadoop 2.6.0-cdh5.7.1

ZooKeeper:zookeeper-3.4.5-cdh5.7.1

3 Linux环境准备

集群各节点进行如下修改配置:

3.1创建用户并添加权限

//切换root用户

$ su root

//创建hadoop用户组

# groupadd hadoop

//在hadoop用户组中创建hadoop用户

# useradd-g hadoop hadoop

//修改用户hadoop密码

# passwd hadoop

//修改sudoers配置文件给hadoop用户添加sudo权限

# vim/etc/sudoers

hadoop ALL=(ALL) ALL

//测试是否添加权限成功

# exit

$ sudo ls/root

3.2修改IP地址和主机名

//切换root用户

$ su root

//修改本机IP地址

# vim/etc/sysconfig/network-scripts/ifcfg-eth0

//重启网络服务

# service network restart

//修改主机名

# hostnamectl set-hostname主机名

//查看主机名

# hostnamectl status

3.3设置IP地址与主机名映射

//切换root用户

$ su root

//编辑hosts文件

# vim/etc/hosts

172.16.20.81 hadoop-master1

172.16.20.82 hadoop-master2

172.16.20.83 hadoop-slave1

172.16.20.84 hadoop-slave2

172.16.20.85 hadoop-slave3

3.4关闭防火墙和Selinux

//切换root用户

$ su root

//停止firewall防火墙

# systemctl stop firewalld.service

//禁止firewall开机启动

# systemctl disable firewalld.service

//开机关闭Selinux

# vim/etc/selinux/config

SELINUX=disabled

//重启机器后root用户查看Selinux状态

# getenforce

3.5配置SSH免密码登录

//在hadoop-master1节点生成SSH密钥对

$ ssh-keygen-t rsa

//将公钥复制到集群所有节点机器上

$ ssh-copy-id hadoop-master1

$ ssh-copy-id hadoop-master2

$ ssh-copy-id hadoop-slave1

$ ssh-copy-id hadoop-slave2

$ ssh-copy-id hadoop-slave3

//通过ssh登录各节点测试是否免密码登录成功

$ ssh hadoop-master2

备注:在其余节点上执行同样的操作,确保集群中任意节点都可以ssh免密码登录到其它各节点。

3.6安装JDK

//卸载系统自带的openjdk

$ suroot

# rpm-qa| grep java

# rpm-e--nodeps java-1.7.0-openjdk-1.7.0.75-2.5.4.2.el7_0.x86_64

# rpm-e--nodeps java-1.7.0-openjdk-headless-1.7.0.75-2.5.4.2.el7_0.x86_64

# rpm-e--nodeps tzdata-java-2015a-1.el7_0.noarch

# exit

//解压jdk安装包

$ tar-xvf jdk-7u79-linux-x64.tar.gz

//删除安装包

$ rmjdk-7u79-linux-x64.tar.gz

//修改用户环境变量

$ cd~

$ vim.bash_profile

exportJAVA_HOME=/home/hadoop/app/jdk1.7.0_79

exportPATH=$PATH:$JAVA_HOME/bin

//使修改的环境变量生效

$ source.bash_profile

//测试jdk是否安装成功

$ java-version

4集群时间同步

如果集群节点时间不同步,可能会出现节点宕机或引发其它异常问题,所以在生产环境中一般通过配置NTP服务器实现集群时间同步。本集群在hadoop-master1节点设置ntp服务器,具体方法如下:

//切换root用户

$ su root

//查看是否安装ntp

# rpm-qa| grep ntp

//安装ntp

# yum install-y ntp

//配置时间服务器

# vim/etc/ntp.conf

#禁止所有机器连接ntp服务器

restrict default ignore

#允许局域网内的所有机器连接ntp服务器

restrict 172.16.20.0 mask 255.255.255.0 nomodify notrap

#使用本机作为时间服务器

server 127.127.1.0

//启动ntp服务器

# service ntpd start

//设置ntp服务器开机自动启动

# chkconfig ntpd on

集群其它节点通过执行crontab定时任务,每天在指定时间向ntp服务器进行时间同步,方法如下:

//切换root用户

$ su root

//执行定时任务,每天00:00向服务器同步时间,并写入日志

# crontab-e

0 0***/usr/sbin/ntpdate hadoop-master1>>/home/hadoop/ntpd.log

//查看任务

# crontab-l

5 Zookeeper集群安装

Zookeeper是一个开源分布式协调服务,其独特的Leader-Follower集群结构,很好的解决了分布式单点问题。目前主要用于诸如:统一命名服务、配置管理、锁服务、集群管理等场景。大数据应用中主要使用Zookeeper的集群管理功能。

本集群使用zookeeper-3.4.5-cdh5.7.1版本。首先在hadoop-slave1节点安装Zookeeper,方法如下:

//新建目录

$ mkdir app/cdh

//解压zookeeper安装包

$ tar-xvf zookeeper-3.4.5-cdh5.7.1.tar.gz-C app/cdh/

//删除安装包

$ rm-rf zookeeper-3.4.5-cdh5.7.1.tar.gz

//配置用户环境变量

$ vim.bash_profile

export ZOOKEEPER_HOME=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1

export PATH=$PATH:$ZOOKEEPER_HOME/bin

//使修改的环境变量生效

$ source.bash_profile

//修改zookeeper的配置文件

$ cd app/cdh/zookeeper-3.4.5-cdh5.7.1/conf/

$ cp zoo_sample.cfg zoo.cfg

$ vim zoo.cfg

#客户端心跳时间(毫秒)

tickTime=2000

#允许心跳间隔的最大时间

initLimit=10

#同步时限

syncLimit=5

#数据存储目录

dataDir=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1/data

#数据日志存储目录

dataLogDir=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1/data/log

#端口号

clientPort=2181

#集群节点和服务端口配置

server.1=hadoop-slave1:2888:3888

server.2=hadoop-slave2:2888:3888

server.3=hadoop-slave3:2888:3888

#以下为优化配置

#服务器最大连接数,默认为10,改为0表示无限制

maxClientCnxns=0

#快照数

autopurge.snapRetainCount=3

#快照清理时间,默认为0

autopurge.purgeInterval=1

//创建zookeeper的数据存储目录和日志存储目录

$ cd..

$ mkdir-p data/log

//在data目录中创建一个文件myid,输入内容为1

$ echo"1">> data/myid

//修改zookeeper的日志输出路径(注意CDH版与原生版配置文件不同)

$ vim libexec/zkEnv.sh

if ["x${ZOO_LOG_DIR}"="x" ]

then

ZOO_LOG_DIR="$ZOOKEEPER_HOME/logs"

fi

if ["x${ZOO_LOG4J_PROP}"="x" ]

then

ZOO_LOG4J_PROP="INFO,ROLLINGFILE"

fi

//修改zookeeper的日志配置文件

$ vim conf/log4j.properties

zookeeper.root.logger=INFO,ROLLINGFILE

//创建日志目录

$ mkdir logs

将hadoop-slave1节点上的Zookeeper目录同步到hadoop-slave2和hadoop-slave3节点,并修改Zookeeper的数据文件。此外,不要忘记设置用户环境变量。

//在hadoop-slave1中将zookeeper目录复制到其它节点

$ cd~

$ scp-r app/cdh/zookeeper-3.4.5-cdh5.7.1hadoop-slave2:/home/hadoop/app/cdh

$ scp-r app/cdh/zookeeper-3.4.5-cdh5.7.1 hadoop-slave3:/home/hadoop/app/cdh

//在hadoop-slave2中修改data目录中的myid文件

$ echo"2">app/cdh/zookeeper-3.4.5-cdh5.7.1/data/myid

//在hadoop-slave3中修改data目录中的myid文件

$ echo"3">app/cdh/zookeeper-3.4.5-cdh5.7.1/data/myid

最后,在安装了Zookeeper的各节点上启动Zookeeper,并查看节点状态,方法如下:

//启动

$ zkServer.sh start

//查看状态

$ zkServer.sh status

//关闭

阅读剩余
THE END