cdh和centos，centos ubuntu 区别
如何用cloudera manager接管已有hadoop的cdh版本集群
本文介绍如何搭建cloudera manager去接入已有hadoop组件（cdh），搜索国内资料并无整体介绍，没有任何参考文章可以借鉴；通过大数据qq交流群当中某老师提供的国外某篇cloudera cto的文章得到解决思路，经实验调试可以实现此功能。
下面进入本文主题。
一、下载必备文件：
1.cloudera manager：
大部分公司内大数据集群环境都无公网访问权限，针对当前集群系统环境和想要接入的cm版本找到对应版本离线包，对于redhat、centos系统来说el6就是redhat6、centos6系统，之后找到想要安装的cm版本，本文搭建过程采用cloudera-manager-el6-cm5.9.0_x86_64.tar.gz
2.cdh安装包：
本搭建过程采用CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel、CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1，parcel文件为cdh压缩包，执行安装过程会进行解压并且上传到各节点；sha1文件内为压缩包的校验码
3.mysql的jdbc驱动jar包：
4.mysql5.6：
本搭建过程采用mysql5.6社区版源码包mysql-5.6.35.tar.gz
二、cloudera manager安装：
1.server端安装配置mysql5.6:
解压mysql安装包后执行
1 yuminstallcmakencurses-*-y
其余看编译输出，缺少什么包就再yum安装什么
进入mysql解压目录，执行
12 cmake-DCMAKE_INSTALL_PREFIX=/export/mysql5.6make&&makeinstall
如果没有报错继续执行
顺利执行过后将/etc/my.cnf删除或移走，在mysql安装目录当中简单编写my.cnf并启动，具体配置请根据自身环境进行设置，本文不对此内容赘述
2.解压cloudera-manager-el6-cm5.9.0_x86_64.tar.gz到安装目录：
默认cloudera和cm-5.9.0目录放置在/opt下，如果想放在其他目录须留意对应配置
3.导入数据，执行完成后会有cm库：
1/export/tmp/opt/cm-5.9.0/share/cmf/schema/scm_prepare_database.shmysqlcm-hlocalhost-uroot--scm-host127.0.0.1scmscmscm
4.登录mysql，进行必要的修改配置：
12 setglobalbinlog_format='ROW';grantallon*.*to'scm'@'%'identifiedby'scm';
否则默认binlog格式为statement，cm会启动报错
对scm进行所有主机的授权
5.cloudera manager server端配置：
创建用户
1 useradd--system--home=/opt/cm-5.9.0/run/cloudera-scm-server/--no-create-home--shell=/bin/false--comment"clouderaSCMuser"cloudera-scm
在之前的cloudera目录下创建parcel-repo目录，将CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel和CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1放在此目录下，重命名sha1文件为sha，否则cm找不到sha文件无法进行校验，会重新去公网上下载压缩包
1 mvCDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha
6.mysql jar包放入lib库：
将解压mysql-connector-java-5.1.40.tar.gz得到的文件放在/opt/cm-5.9.0/share/cmf/lib下
7.配置db连接信息：
1 vim/opt/cm-5.9.0/etc/cloudera-scm-server/db.properties
host由于mysql就装在本机所以写127地址即可，库名、用户名、密码遵循上面创建用户和授权的内容进行填写
8.配置cm启动脚本的java环境：
123 vim/opt/cm-5.9.0/etc/init.d/cloudera-scm-agentvim/opt/cm-5.9.0/etc/init.d/cloudera-scm-serverexportJAVA_HOME=/usr/java/jdk1.7.0_51
9.agent配置：
1 vim/export/tmp/opt/cm-5.9.0/etc/cloudera-scm-agent/config.ini
server_host配置server端的ip或者主机名
server_port和port没有修改，使用默认的即可
listening_ip可以不做修改
之后将/opt/cm-5.9.0此目录拷贝到其他agent节点的对应目录
注：须确保/opt/cm-5.9.0/lib/cloudera-scm-agent下的uuid文件删掉，否则会出现cm web中主机显示冲突的情况
10.启动服务：
server端执行
1/opt/cm-5.9.0/etc/init.d/cloudera-scm-serverstart
agent端执行
1/opt/cm-5.9.0/etc/init.d/cloudera-scm-agentstart
server端启动端口7180 7182
agent端启动端口9000
三、web配置：
1.添加cloudera management service：
浏览器访问server端地址的7180端口，用户名密码默认admin admin
登录后不按照提示进行安装，直接点击左上方主页，然后选择右边添加管理服务
填入管理员登录mysql的连接信息即可
审核更改页不用做任何更改
之后等待安装完成，安装过后会发现集群监控已经有数据，点选所有主机，检查所有主机检查各节点状态
回到主页，点击cluster1右侧的添加服务
2.添加hdfs服务：
选择hdfs继续，根据原有集群情况进行主机选择
审核更改部分可以根据现有集群配置进行填写，左侧会有对应参数名
需要注意的是，datanode数据目录不管原来所有者是谁必须要修改为hdfs，否则无法通过cm启动，并且原有集群对应进程要先停掉
点击继续后不要等待进程进行，直接返回主页，会发现hdfs集群角色已经添加
进入hdfs配置journalnode目录dfs.journalnode.edits.dir
之后启动集群，观察监控数据
注：其余hadoop组件接入原则也是停掉原有进程，修改对应目录属主为组件名称的用户，比如hdfs，yarn，同时修改cm上对应的关键配置。此种做法对程序环境改造很大，很多标准必须遵循cloudera manager的规则，而且有丢失hdfs元数据风险。
四、后记：
此次搭建cm集群遇到一些问题，比如添加hdfs角色后无法启动namenode，报错java.io.IOException: There appears to be a gap in the edit log. We expected txid 1, but got txid 16，可能数据不连续，通过hadoop namenode-recover命令进行修复后可以启动，此命令不敢保证在生产环境执行没有问题；又或者datanode无法启动，遇到以下报错Operation not permitted
之后发现原集群的对应目录所有者为hadoop，而根据其他角色启动进程的所有者hdfs来进行权限修改后datanode可以启动
请教hadoop2.0的ha如何配置
1 Hadoop HA架构详解
1.1 HDFS HA背景
HDFS集群中NameNode存在单点故障（SPOF）。对于只有一个NameNode的集群，如果NameNode机器出现意外情况，将导致整个集群无法使用，直到NameNode重新启动。
影响HDFS集群不可用主要包括以下两种情况：一是NameNode机器宕机，将导致集群不可用，重启NameNode之后才可使用；二是计划内的NameNode节点软件或硬件升级，导致集群在短时间内不可用。
为了解决上述问题，Hadoop给出了HDFS的高可用HA方案：HDFS通常由两个NameNode组成，一个处于active状态，另一个处于standby状态。Active NameNode对外提供服务，比如处理来自客户端的RPC请求，而Standby NameNode则不对外提供服务，仅同步Active NameNode的状态，以便能够在它失败时快速进行切换。
1.2 HDFS HA架构
一个典型的HA集群，NameNode会被配置在两台独立的机器上，在任何时间上，一个NameNode处于活动状态，而另一个NameNode处于备份状态，活动状态的NameNode会响应集群中所有的客户端，备份状态的NameNode只是作为一个副本，保证在必要的时候提供一个快速的转移。
为了让Standby Node与Active Node保持同步，这两个Node都与一组称为JNS的互相独立的进程保持通信(Journal Nodes)。当Active Node上更新了namespace，它将记录修改日志发送给JNS的多数派。Standby noes将会从JNS中读取这些edits，并持续关注它们对日志的变更。Standby Node将日志变更应用在自己的namespace中，当failover发生时，Standby将会在提升自己为Active之前，确保能够从JNS中读取所有的edits，即在failover发生之前Standy持有的namespace应该与Active保持完全同步。
为了支持快速failover，Standby node持有集群中blocks的最新位置是非常必要的。为了达到这一目的，DataNodes上需要同时配置这两个Namenode的地址，同时和它们都建立心跳链接，并把block位置发送给它们。
任何时刻，只有一个Active NameNode是非常重要的，否则将会导致集群操作的混乱，那么两个NameNode将会分别有两种不同的数据状态，可能会导致数据丢失，或者状态异常，这种情况通常称为“split-brain”（脑裂，三节点通讯阻断，即集群中不同的Datanodes却看到了两个Active NameNodes）。对于JNS而言，任何时候只允许一个NameNode作为writer；在failover期间，原来的Standby Node将会接管Active的所有职能，并负责向JNS写入日志记录，这就阻止了其他NameNode基于处于Active状态的问题。
基于QJM的HDFS HA方案如上图所示，其处理流程为：集群启动后一个NameNode处于Active状态，并提供服务，处理客户端和DataNode的请求，并把editlog写到本地和share editlog（这里是QJM）中。另外一个NameNode处于Standby状态，它启动的时候加载fsimage，然后周期性的从share editlog中获取editlog，保持与Active节点的状态同步。为了实现Standby在Active挂掉后迅速提供服务，需要DataNode同时向两个NameNode汇报，使得Stadnby保存block to DataNode信息，因为NameNode启动中最费时的工作是处理所有DataNode的blockreport。为了实现热备，增加FailoverController和Zookeeper，FailoverController与Zookeeper通信，通过Zookeeper选举机制，FailoverController通过RPC让NameNode转换为Active或Standby。
1.3 HDFS HA配置要素
NameNode机器：两台配置对等的物理机器，它们分别运行Active和Standby Node。
JouralNode机器：运行JouralNodes的机器。JouralNode守护进程相当的轻量级，可以和Hadoop的其他进程部署在一起，比如NameNode、DataNode、ResourceManager等，至少需要3个且为奇数，如果你运行了N个JNS，那么它可以允许(N-1)/2个JNS进程失效并且不影响工作。
在HA集群中，Standby NameNode还会对namespace进行checkpoint操作（继承Backup Namenode的特性），因此不需要在HA集群中运行SecondaryNameNode、CheckpointNode或者BackupNode。
1.4 HDFS HA配置参数
需要在hdfs.xml中配置如下参数：
dfs.nameservices：HDFS NN的逻辑名称，例如myhdfs。
dfs.ha.namenodes.myhdfs：给定服务逻辑名称myhdfs的节点列表，如nn1、nn2。
dfs.namenode.rpc-address.myhdfs.nn1：myhdfs中nn1对外服务的RPC地址。
dfs.namenode.http-address.myhdfs.nn1：myhdfs中nn1对外服务http地址。
dfs.namenode.shared.edits.dir：JournalNode的服务地址。
dfs.journalnode.edits.dir：JournalNode在本地磁盘存放数据的位置。
dfs.ha.automatic-failover.enabled：是否开启NameNode失败自动切换。
dfs.ha.fencing.methods：配置隔离机制，通常为sshfence。
1.5 HDFS自动故障转移
HDFS的自动故障转移主要由Zookeeper和ZKFC两个组件组成。
Zookeeper集群作用主要有：一是故障监控。每个NameNode将会和Zookeeper建立一个持久session，如果NameNode失效，那么此session将会过期失效，此后Zookeeper将会通知另一个Namenode，然后触发Failover；二是NameNode选举。ZooKeeper提供了简单的机制来实现Acitve Node选举，如果当前Active失效，Standby将会获取一个特定的排他锁，那么获取锁的Node接下来将会成为Active。
ZKFC是一个Zookeeper的客户端，它主要用来监测和管理NameNodes的状态，每个NameNode机器上都会运行一个ZKFC程序，它的职责主要有：一是健康监控。ZKFC间歇性的ping NameNode，得到NameNode返回状态，如果NameNode失效或者不健康，那么ZKFS将会标记其为不健康；二是Zookeeper会话管理。当本地NaneNode运行良好时，ZKFC将会持有一个Zookeeper session，如果本地NameNode为Active，它同时也持有一个“排他锁”znode，如果session过期，那么次lock所对应的znode也将被删除；三是选举。当集群中其中一个NameNode宕机，Zookeeper会自动将另一个激活。
1.6 YARN HA架构
YARN的HA架构和HDFSHA类似，需要启动两个ResourceManager，这两个ResourceManager会向ZooKeeper集群注册，通过ZooKeeper管理它们的状态（Active或Standby）并进行自动故障转移。
2高可用集群规划
2.1集群规划
根据Hadoop的HA架构分析，规划整个集群由5台主机组成，具体情况如下表所示：
主机名
IP地址
安装的软件
JPS
hadoop-master1
172.16.20.81
Jdk/hadoop
Namenode/zkfc/resourcemanager/
JobHistoryServer
hadoop-master2
172.16.20.82
Jdk/hadoop
Namenode/zkfc/resourcemanager/
WebProxyServer
hadoop-slave1
172.16.20.83
Jkd/hadoop/zookeepe
Datanode/journalnode/nodemanager/
quorumPeerMain
hadoop-slave2
172.16.20.84
Jkd/hadoop/zookeeper
Datanode/journalnode/nodemanager/
quorumPeerMain
hadoop-slave3
172.16.20.85
Jkd/hadoop/zookeeper
Datanode/journalnode/nodemanager/
quorumPeerMain
需要说明以下几点：
HDFS HA通常由两个NameNode组成，一个处于Active状态，另一个处于Standby状态。Active NameNode对外提供服务，而Standby NameNode则不对外提供服务，仅同步Active NameNode的状态，以便能够在它失败时快速进行切换。
Hadoop 2.0官方提供了两种HDFS HA的解决方案，一种是NFS，另一种是QJM。这里我们使用简单的QJM。在该方案中，主备NameNode之间通过一组JournalNode同步元数据信息，一条数据只要成功写入多数JournalNode即认为写入成功。通常配置奇数个JournalNode，这里还配置了一个Zookeeper集群，用于ZKFC故障转移，当Active NameNode挂掉了，会自动切换Standby NameNode为Active状态。
YARN的ResourceManager也存在单点故障问题，这个问题在hadoop-2.4.1得到了解决：有两个ResourceManager，一个是Active，一个是Standby，状态由zookeeper进行协调。
YARN框架下的MapReduce可以开启JobHistoryServer来记录历史任务信息，否则只能查看当前正在执行的任务信息。
Zookeeper的作用是负责HDFS中NameNode主备节点的选举，和YARN框架下ResourceManaer主备节点的选举。
2.2软件版本
操作系统：CentOS Linux release 7.0.1406
JDK：Java(TM)SE Runtime Environment(build 1.7.0_79-b15)
Hadoop：Hadoop 2.6.0-cdh5.7.1
ZooKeeper：zookeeper-3.4.5-cdh5.7.1
3 Linux环境准备
集群各节点进行如下修改配置：
3.1创建用户并添加权限
//切换root用户
$ su root
//创建hadoop用户组
# groupadd hadoop
//在hadoop用户组中创建hadoop用户
# useradd-g hadoop hadoop
//修改用户hadoop密码
# passwd hadoop
//修改sudoers配置文件给hadoop用户添加sudo权限
# vim/etc/sudoers
hadoop ALL=(ALL) ALL
//测试是否添加权限成功
# exit
$ sudo ls/root
3.2修改IP地址和主机名
//切换root用户
$ su root
//修改本机IP地址
# vim/etc/sysconfig/network-scripts/ifcfg-eth0
//重启网络服务
# service network restart
//修改主机名
# hostnamectl set-hostname主机名
//查看主机名
# hostnamectl status
3.3设置IP地址与主机名映射
//切换root用户
$ su root
//编辑hosts文件
# vim/etc/hosts
172.16.20.81 hadoop-master1
172.16.20.82 hadoop-master2
172.16.20.83 hadoop-slave1
172.16.20.84 hadoop-slave2
172.16.20.85 hadoop-slave3
3.4关闭防火墙和Selinux
//切换root用户
$ su root
//停止firewall防火墙
# systemctl stop firewalld.service
//禁止firewall开机启动
# systemctl disable firewalld.service
//开机关闭Selinux
# vim/etc/selinux/config
SELINUX=disabled
//重启机器后root用户查看Selinux状态
# getenforce
3.5配置SSH免密码登录
//在hadoop-master1节点生成SSH密钥对
$ ssh-keygen-t rsa
//将公钥复制到集群所有节点机器上
$ ssh-copy-id hadoop-master1
$ ssh-copy-id hadoop-master2
$ ssh-copy-id hadoop-slave1
$ ssh-copy-id hadoop-slave2
$ ssh-copy-id hadoop-slave3
//通过ssh登录各节点测试是否免密码登录成功
$ ssh hadoop-master2
备注：在其余节点上执行同样的操作，确保集群中任意节点都可以ssh免密码登录到其它各节点。
3.6安装JDK
//卸载系统自带的openjdk
$ suroot
# rpm-qa| grep java
# rpm-e--nodeps java-1.7.0-openjdk-1.7.0.75-2.5.4.2.el7_0.x86_64
# rpm-e--nodeps java-1.7.0-openjdk-headless-1.7.0.75-2.5.4.2.el7_0.x86_64
# rpm-e--nodeps tzdata-java-2015a-1.el7_0.noarch
# exit
//解压jdk安装包
$ tar-xvf jdk-7u79-linux-x64.tar.gz
//删除安装包
$ rmjdk-7u79-linux-x64.tar.gz
//修改用户环境变量
$ cd~
$ vim.bash_profile
exportJAVA_HOME=/home/hadoop/app/jdk1.7.0_79
exportPATH=$PATH:$JAVA_HOME/bin
//使修改的环境变量生效
$ source.bash_profile
//测试jdk是否安装成功
$ java-version
4集群时间同步
如果集群节点时间不同步，可能会出现节点宕机或引发其它异常问题，所以在生产环境中一般通过配置NTP服务器实现集群时间同步。本集群在hadoop-master1节点设置ntp服务器，具体方法如下：
//切换root用户
$ su root
//查看是否安装ntp
# rpm-qa| grep ntp
//安装ntp
# yum install-y ntp
//配置时间服务器
# vim/etc/ntp.conf
#禁止所有机器连接ntp服务器
restrict default ignore
#允许局域网内的所有机器连接ntp服务器
restrict 172.16.20.0 mask 255.255.255.0 nomodify notrap
#使用本机作为时间服务器
server 127.127.1.0
//启动ntp服务器
# service ntpd start
//设置ntp服务器开机自动启动
# chkconfig ntpd on
集群其它节点通过执行crontab定时任务，每天在指定时间向ntp服务器进行时间同步，方法如下：
//切换root用户
$ su root
//执行定时任务，每天00:00向服务器同步时间，并写入日志
# crontab-e
0 0***/usr/sbin/ntpdate hadoop-master1>>/home/hadoop/ntpd.log
//查看任务
# crontab-l
5 Zookeeper集群安装
Zookeeper是一个开源分布式协调服务，其独特的Leader-Follower集群结构，很好的解决了分布式单点问题。目前主要用于诸如：统一命名服务、配置管理、锁服务、集群管理等场景。大数据应用中主要使用Zookeeper的集群管理功能。
本集群使用zookeeper-3.4.5-cdh5.7.1版本。首先在hadoop-slave1节点安装Zookeeper，方法如下：
//新建目录
$ mkdir app/cdh
//解压zookeeper安装包
$ tar-xvf zookeeper-3.4.5-cdh5.7.1.tar.gz-C app/cdh/
//删除安装包
$ rm-rf zookeeper-3.4.5-cdh5.7.1.tar.gz
//配置用户环境变量
$ vim.bash_profile
export ZOOKEEPER_HOME=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1
export PATH=$PATH:$ZOOKEEPER_HOME/bin
//使修改的环境变量生效
$ source.bash_profile
//修改zookeeper的配置文件
$ cd app/cdh/zookeeper-3.4.5-cdh5.7.1/conf/
$ cp zoo_sample.cfg zoo.cfg
$ vim zoo.cfg
#客户端心跳时间(毫秒)
tickTime=2000
#允许心跳间隔的最大时间
initLimit=10
#同步时限
syncLimit=5
#数据存储目录
dataDir=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1/data
#数据日志存储目录
dataLogDir=/home/hadoop/app/cdh/zookeeper-3.4.5-cdh5.7.1/data/log
#端口号
clientPort=2181
#集群节点和服务端口配置
server.1=hadoop-slave1:2888:3888
server.2=hadoop-slave2:2888:3888
server.3=hadoop-slave3:2888:3888
#以下为优化配置
#服务器最大连接数，默认为10，改为0表示无限制
maxClientCnxns=0
#快照数
autopurge.snapRetainCount=3
#快照清理时间，默认为0
autopurge.purgeInterval=1
//创建zookeeper的数据存储目录和日志存储目录
$ cd..
$ mkdir-p data/log
//在data目录中创建一个文件myid，输入内容为1
$ echo"1">> data/myid
//修改zookeeper的日志输出路径(注意CDH版与原生版配置文件不同)
$ vim libexec/zkEnv.sh
if ["x${ZOO_LOG_DIR}"="x" ]
then
ZOO_LOG_DIR="$ZOOKEEPER_HOME/logs"
fi
if ["x${ZOO_LOG4J_PROP}"="x" ]
then
ZOO_LOG4J_PROP="INFO,ROLLINGFILE"
fi
//修改zookeeper的日志配置文件
$ vim conf/log4j.properties
zookeeper.root.logger=INFO,ROLLINGFILE
//创建日志目录
$ mkdir logs
将hadoop-slave1节点上的Zookeeper目录同步到hadoop-slave2和hadoop-slave3节点，并修改Zookeeper的数据文件。此外，不要忘记设置用户环境变量。
//在hadoop-slave1中将zookeeper目录复制到其它节点
$ cd~
$ scp-r app/cdh/zookeeper-3.4.5-cdh5.7.1hadoop-slave2:/home/hadoop/app/cdh
$ scp-r app/cdh/zookeeper-3.4.5-cdh5.7.1 hadoop-slave3:/home/hadoop/app/cdh
//在hadoop-slave2中修改data目录中的myid文件
$ echo"2">app/cdh/zookeeper-3.4.5-cdh5.7.1/data/myid
//在hadoop-slave3中修改data目录中的myid文件
$ echo"3">app/cdh/zookeeper-3.4.5-cdh5.7.1/data/myid
最后，在安装了Zookeeper的各节点上启动Zookeeper，并查看节点状态，方法如下：
//启动
$ zkServer.sh start
//查看状态
$ zkServer.sh status
//关闭
基于CentOS6.4环境编译Spark-2.1.0源码
基于 CentOS6.4环境编译 Spark-2.1.0源码
本文探讨在实际开发实践中，有时直接使用 Spark官方提供的安装包可能无法满足特定需求。为深入理解 Spark并更灵活地使用其功能，学习根据源码进行编译显得尤为重要。
在进行 Spark源码编译前，确保系统已安装 Java 7，并选择合适的版本，例如 JDK 1.7.0_51。将所有软件安装在用户根目录下的 app文件夹内。接下来，安装 Maven 3.3.9，下载并根据官方指南进行安装。
接着，前往 Spark官网下载 Spark-2.1.0源码包。解压后，将根据官方文档中的介绍使用 dev目录下的 make-distribution.sh脚本来编译源码。在编译过程中，可自定义参数以适应特定环境，如指定的 Hadoop版本、运行环境（如 YARN）以及支持的工具（如 Hive）。
编译完成后，会在 Spark源码根目录生成一个包含所需配置的安装包，例如 spark-2.1.0-bin-2.6.0-cdh5.7.0.tgz。此包即为编译结果，可用于安装 Spark。
理解编译生成安装包的命名逻辑，对于优化 Spark配置至关重要。在 make-distribution.sh脚本的末尾，可以看到用于生成安装包名的代码块，其依据 Spark版本和编译时指定的参数进行命名。
在编译过程中，可能遇到依赖包下载时间过长的问题，这通常由于网络不稳定导致。此时，可尝试中断编译进程，稍后重新运行命令，或开启虚拟专用网络（VPN）以优化网络环境，从而加速编译过程。
遵循以上步骤，结合对官方文档的深入理解，可实现对 Spark源码的高效编译和优化。此过程不仅有助于提高对 Spark的掌握程度，还能针对特定需求定制 Spark配置，提高开发效率。
