cdh centos，centos8和9的区别

各位老铁们，大家好，今天由我来为大家分享cdh centos，以及centos8和9的区别的相关问题知识，希望对大家有所帮助。如果可以帮助到大家，还望关注收藏下本站，您的支持是我们最大的动力，谢谢大家了哈，下面我们开始吧！

cdh安装详细教程

CDH安装详细教程如下：

1.**准备工作**：确保有三台以上服务器，系统推荐CentOS 7.x。修改所有节点的主机名并配置IP与主机名的映射关系，确保网络通信顺畅。关闭防火墙和SELinux以增强系统安全性。安装Java环境，JDK版本需符合CDH要求。

2.**安装MySQL**：在主节点上安装MySQL数据库，因为CDH的某些组件如Cloudera Manager和Hive Metastore需要数据库支持。安装并配置MySQL，确保数据库可以正常访问。

3.**安装Cloudera Manager**：将Cloudera Manager的安装包上传到主节点，并解压到指定目录。根据官方文档配置Cloudera Manager数据库连接。启动Cloudera Manager服务，并访问其Web界面进行配置。

4.**部署CDH**：在Cloudera Manager的Web界面中，添加集群并指定集群配置。上传CDH的Parcel包，并等待分发到各个节点。在Cloudera Manager中启动CDH服务，包括HDFS、YARN、Hive等组件。

5.**配置与优化**：根据业务需求配置CDH服务，如设置HDFS的存储路径、调整YARN的资源配额等。进行集群的性能优化，如关闭透明大页、调整系统参数等。

6.**验证与测试**：通过Cloudera Manager的Web界面检查各服务的状态，确保所有服务都已成功启动并运行正常。进行业务测试，验证CDH集群的性能和稳定性。

以上步骤为CDH安装的基本流程，具体细节可能因版本和环境差异而有所不同。在实际操作中，请参照官方文档和最佳实践进行操作。

Centos修改swappiness

swappines是Linux的一个内核参数，控制系统在进行swap时，内存使用相对权重。

那么系统在进行swap时，系统做了什么？

在Linux系统中，当物理内存不足时，系统会拿出预先设定好的部分硬盘空间当swap分区使用，从而解决内存容量不足的情况。

当某进程向系统请求内存发现不足时，系统会把内存中暂时不用的数据交换出去，放在swap分区中，这个过程称为 swap out。

当某进程又需要这些数据且系统发现还有空闲物理内存时，又会把swap分区中的数据交换回物理内存中，这个过程称为 swap in。

当然，swap大小是有上限的，一旦swap使用完，操作系统会触发OOM-Killer机制，把消耗内存最多的进程kill掉以释放内存。

可以理解为系统在硬盘上设置swap分区，当内存不足了，把这部分硬盘当作内存来用。

swappiness参数值可设置范围在0到100之间。

此参数值越低，就会让Linux系统尽量少用swap分区，多用内存；参数值越高就是反过来，使内核更多的去使用swap空间。

CentOS系统此参数的默认值是30，表示当内存使用超过70%，系统开始使用swap分区。

这里CDH推荐swappiness为10，表示当内存使用率超过90%，系统开始使用swap分区。

或

临时修改，当前系统的swappiness为10，但重启后，系统的swappiness继续恢复默认值。

此方法为永久修改swappiness分区的办法。

如何用cloudera manager接管已有hadoop的cdh版本集群

本文介绍如何搭建cloudera manager去接入已有hadoop组件（cdh），搜索国内资料并无整体介绍，没有任何参考文章可以借鉴；通过大数据qq交流群当中某老师提供的国外某篇cloudera cto的文章得到解决思路，经实验调试可以实现此功能。

下面进入本文主题。

一、下载必备文件：

1.cloudera manager：

大部分公司内大数据集群环境都无公网访问权限，针对当前集群系统环境和想要接入的cm版本找到对应版本离线包，对于redhat、centos系统来说el6就是redhat6、centos6系统，之后找到想要安装的cm版本，本文搭建过程采用cloudera-manager-el6-cm5.9.0_x86_64.tar.gz

2.cdh安装包：

本搭建过程采用CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel、CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1，parcel文件为cdh压缩包，执行安装过程会进行解压并且上传到各节点；sha1文件内为压缩包的校验码

3.mysql的jdbc驱动jar包：

4.mysql5.6：

本搭建过程采用mysql5.6社区版源码包mysql-5.6.35.tar.gz

二、cloudera manager安装：

1.server端安装配置mysql5.6:

解压mysql安装包后执行

1 yuminstallcmakencurses-*-y

其余看编译输出，缺少什么包就再yum安装什么

进入mysql解压目录，执行

12 cmake-DCMAKE_INSTALL_PREFIX=/export/mysql5.6make&&makeinstall

如果没有报错继续执行

顺利执行过后将/etc/my.cnf删除或移走，在mysql安装目录当中简单编写my.cnf并启动，具体配置请根据自身环境进行设置，本文不对此内容赘述

2.解压cloudera-manager-el6-cm5.9.0_x86_64.tar.gz到安装目录：

默认cloudera和cm-5.9.0目录放置在/opt下，如果想放在其他目录须留意对应配置

3.导入数据，执行完成后会有cm库：

1/export/tmp/opt/cm-5.9.0/share/cmf/schema/scm_prepare_database.shmysqlcm-hlocalhost-uroot--scm-host127.0.0.1scmscmscm

4.登录mysql，进行必要的修改配置：

12 setglobalbinlog_format='ROW';grantallon*.*to'scm'@'%'identifiedby'scm';

否则默认binlog格式为statement，cm会启动报错

对scm进行所有主机的授权

5.cloudera manager server端配置：

创建用户

1 useradd--system--home=/opt/cm-5.9.0/run/cloudera-scm-server/--no-create-home--shell=/bin/false--comment"clouderaSCMuser"cloudera-scm

在之前的cloudera目录下创建parcel-repo目录，将CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel和CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1放在此目录下，重命名sha1文件为sha，否则cm找不到sha文件无法进行校验，会重新去公网上下载压缩包

1 mvCDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha1CDH-5.9.0-1.cdh5.9.0.p0.23-el6.parcel.sha

6.mysql jar包放入lib库：

将解压mysql-connector-java-5.1.40.tar.gz得到的文件放在/opt/cm-5.9.0/share/cmf/lib下

7.配置db连接信息：

1 vim/opt/cm-5.9.0/etc/cloudera-scm-server/db.properties

host由于mysql就装在本机所以写127地址即可，库名、用户名、密码遵循上面创建用户和授权的内容进行填写

8.配置cm启动脚本的java环境：

123 vim/opt/cm-5.9.0/etc/init.d/cloudera-scm-agentvim/opt/cm-5.9.0/etc/init.d/cloudera-scm-serverexportJAVA_HOME=/usr/java/jdk1.7.0_51

9.agent配置：

1 vim/export/tmp/opt/cm-5.9.0/etc/cloudera-scm-agent/config.ini

server_host配置server端的ip或者主机名

server_port和port没有修改，使用默认的即可

listening_ip可以不做修改

之后将/opt/cm-5.9.0此目录拷贝到其他agent节点的对应目录

注：须确保/opt/cm-5.9.0/lib/cloudera-scm-agent下的uuid文件删掉，否则会出现cm web中主机显示冲突的情况

10.启动服务：

server端执行

1/opt/cm-5.9.0/etc/init.d/cloudera-scm-serverstart

agent端执行

1/opt/cm-5.9.0/etc/init.d/cloudera-scm-agentstart

server端启动端口7180 7182

agent端启动端口9000

三、web配置：

1.添加cloudera management service：

浏览器访问server端地址的7180端口，用户名密码默认admin admin

登录后不按照提示进行安装，直接点击左上方主页，然后选择右边添加管理服务

填入管理员登录mysql的连接信息即可

审核更改页不用做任何更改

之后等待安装完成，安装过后会发现集群监控已经有数据，点选所有主机，检查所有主机检查各节点状态

回到主页，点击cluster1右侧的添加服务

2.添加hdfs服务：

选择hdfs继续，根据原有集群情况进行主机选择

审核更改部分可以根据现有集群配置进行填写，左侧会有对应参数名

需要注意的是，datanode数据目录不管原来所有者是谁必须要修改为hdfs，否则无法通过cm启动，并且原有集群对应进程要先停掉

点击继续后不要等待进程进行，直接返回主页，会发现hdfs集群角色已经添加

进入hdfs配置journalnode目录dfs.journalnode.edits.dir

之后启动集群，观察监控数据

注：其余hadoop组件接入原则也是停掉原有进程，修改对应目录属主为组件名称的用户，比如hdfs，yarn，同时修改cm上对应的关键配置。此种做法对程序环境改造很大，很多标准必须遵循cloudera manager的规则，而且有丢失hdfs元数据风险。

四、后记：

此次搭建cm集群遇到一些问题，比如添加hdfs角色后无法启动namenode，报错java.io.IOException: There appears to be a gap in the edit log. We expected txid 1, but got txid 16，可能数据不连续，通过hadoop namenode-recover命令进行修复后可以启动，此命令不敢保证在生产环境执行没有问题；又或者datanode无法启动，遇到以下报错Operation not permitted

之后发现原集群的对应目录所有者为hadoop，而根据其他角色启动进程的所有者hdfs来进行权限修改后datanode可以启动