zookeeper ubuntu Ubuntu24.04

大家好，今天给各位分享zookeeper ubuntu的一些知识，其中也会对Ubuntu24.04进行解释，文章篇幅可能偏长，如果能碰巧解决你现在面临的问题，别忘了关注本站，现在就马上开始吧！

Ubuntu安装集群模式的kafka及常用命令汇总

一些依赖组件的安装可参考：

启动三台虚拟机，作为kafka集群部署的示例:

1、通过本地电脑的vmware新启三台虚拟机

2、在三台机器上安装好jdk

3、Ubuntu安装ssh：

确认Ubuntu是否有安装ssh，如未安装需进行安装步骤。

安装后，配置ssh免密登录，实现服务器间免密码登录。

安装zk集群：

下载zookeeper，配置其配置文件并启动集群。

部署kafka集群：

下载并配置kafka，启动集群，验证部署成功。

安装kafka eagle(后续补充)：

使用kafka eagle监控工具，监控kafka集群状态。

常用命令：

停止zookeeper和kafka的命令，创建和管理topic的操作，以及查看topic信息的方法。

修改和删除topic的步骤，以及调整主题分区数和副本数的技巧。

消费者组管理命令，查看所有消费者组和某个消费者组的消费情况。

在Ubuntu里面搭建四个节点内存怎么分配

一、硬件配置以及操作系统：

所需要的机器以及操作系统：一台mac os笔记本、一台window笔记本（CPU双核四线程，内存8G），其中mac os用于远程操作，window笔记本装有虚拟机，虚拟出3个ubuntu18.04系统（配置CPU1个线程2个，内存1.5G，硬盘分配每个70G），对于mac os（可以用window机或者linux机）的配置没有要求

使用vm创建3个ubuntu18.04系统，一个主节点：master（NameNode）和两个从节点slave1（DataNode）和slave2（DataNode）

节点IP分配：主节点IP为：192.168.0.109、从节点1IP为：192.168.0.110、从节点2IP为：192.168.0.111

虚拟机的网络选择桥接模式与物理网络的网段相同，这样有助于远程连接。

master的主机名为：sunxj-hdm,slave1的主机名为：sunxj-hds1，slave2的主机名为：sunxj-hds2，如下图所示：

定义域名：sunxj-hdm.myhd.com(master)，sunxj-hds1.myhd.com(slave1)，sunxj-hds2.myhd.com(slave2)

配置hosts，将3台的hosts配置为：

192.168.0.109 sunxj-hdm.myhd.com192.168.0.110 sunxj-hds1.myhd.com
192.168.0.111 sunxj-hds2.myhd.com

如下图所示：

注意：不能放在最下边，从注释行开始往下是配置ipv6的，ip和域名之间必须是一个tab，且域名后不能有空格，否则是ping不通的，还有3个主机必须配置相同才能互ping。

7.然后使用如下命令进行重启网络

sudo/etc/init.d/networking restart

如下图所示：

8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通，如果是通的则配置成功，如果不通需要在找原因了，如下图所示：

在master机ping slave1和slave2

在 slave1机ping master和slave2

在 slave2机ping master和slave1

二、节点需要安装的工具：

三个节点需要安装的工具为：vm-tool、gcc、net-tools、openssh-server、vsftpd、vim（用于ftp服务）

安装顺序：

(1)sudo apt install gcc

(2)安装vm-tool

(3)sudo apt install net-tools

(4)sudo apt install vim

(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start启动ssh)

(6)在安装好ssh后即可远程操作，在macos中打开终端进行ssh远程连接，如下图所示：

(7)安装ftp服务并配置vsftpd请看：

三、安装JDK环境

1、安装java，三台主机都需要安装，安装方法请看：

四、创建hadoop用户

1、在master节点上使用如下命令来创建hadoop用户

sudo adduser hadoop

如下图所示：

2、使用如命令把hadoop用户加入到hadoop用户组，前面一个hadoop是组名，后面一个hadoop是用户名

sudo usermod-a-G hadoop hadoop

如下图所示：

3、可以使用如下命令来查看结果

cat/etc/group|grep hadoop

如下图所示：

4、把hadoop用户赋予root权限，让他可以使用sudo命令，使用如下命令编辑

sudo vim/etc/sudoers

修改文件如下：

root ALL=(ALL) ALL hadoop ALL=(root) NOPASSWD:ALL

如下图所示：

修改前：

修改后：

5、用同样方法在slave1和slave2上创建hadoop用户。

五、建立ssh无密码登录本机

ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。

1、首先用hadoop用户在master主机上创建ssh-key，这里我们采用rsa方式。使用如下命令(P是要大写的，后面跟""，表示无密码)

ssh-keygen-t rsa-P""

如下图所示：

2、直接回车即可，然后就会生成相应的信息，如下图所示：

3、回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的，进入到该目录查看，如下图所示：

4、然后分别在slave1和slave2用同样的方法生成，然后分别用

scp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave1_id_rsa.pubscp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave2_id_rsa.pub

将slave1和slave2的文件上传到master上，如下图所示：

5、使用如下指令，将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录

sudo mv/home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pubsudo mv/home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub

如下图所示：

6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的，只需要执行如下命令即可：

cat*.pub>>authorized_keys

如下图所示：

7、然后可以通过：ssh localhost测试本机无密码登录，如下图所示：

8、将master上的公钥拷贝到slave1和slave2上，使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中，使用如下命令来上传

scp authorized_keys hadoop@192.168.0.110:/home/sunftp/ftpdirscp authorized_keys hadoop@192.168.0.111:/home/sunftp/ftpdir

，如下图所示：

9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件，如下图所示：

10、分别在两台slave机器上执行1~3部，然后如下命令将公钥拷贝到~/.ssh/目录中

cp/home/sunftp/ftpdir/authorized_keys~/.ssh/authorized_keys

如下图所示：

11、使用：sudo chmod 664 authorized_keys修改authorized_keys的权限，如下图所示：

12、然后在mstar上无密码登录slave1和slave2，如下图所示：

13、然后在slave1上无密码登录mstar和slave2，如下图所示：

14、然后在slave2上无密码登录slave1和mstar，如下图所示：

注意：如果无法登录请查看/home/下的用户权限是否是755，如果不是则无法登录的，我的slave1就是将/home/sunxj的权限设置为：777,只需要将sunxj设置为755即可，如下图所示：

12、到此就可以在master上无密码登录slave1和slave2了。

六、安装hadoop

1、首先从下载，如下版本：

2、这里选择hadoop2.7.7的Binary版本。

3、使用scp命令将下载好的hadoop上传到master，(此时的用户名也可以使用其他的用户配置)如下图所示：

4、使用如下命令解压

tar-xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz

如下图所示：

5、将hadoop-2.7.7移动到/usr/目录，如下图所示：

6、查看hadoop的目录，如下图所示：

7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录，如

hadoop-2.7.3/hdfs

hadoop-2.7.3/hdfs/tmp

hadoop-2.7.3/hdfs/name

hadoop-2.7.3/hdfs/data

8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有：

core-site.xml

hadoop-env.sh

hdfs-site.xml

mapred-site.xml.template

yarn-env.sh

yarn-site.xml

mapred-env.sh

slaves

如下图所示：

9、首先配置core-site.xml文件，使用如下命令打开

sudo vim etc/hadoop/core-site.xml

然后在<configuration></configuration>中如下配置是读写sequence file的 buffer size,可减少 I/O次数。在大型的 Hadoop cluster，建议可设定为 65536到 131072，默认值 4096.按照教程配置了131072：

<property><name>hadoop.tmp.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/tmp</value><description>A base for other temporary directories.</description></property><property><name>io.file.buffer.size</name><value>131072</value></property><property><name>fs.defaultFS</name><value>hdfs://sunxj-hdm.myhd.com:9000</value></property>

注意：第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。

如下图所示：

属性说明：

参数

属性值

解释

fs.defaultFS

NameNode URI

hdfs://host:port/

io.file.buffer.size

131072

SequenceFiles文件中.读写缓存size设定

fs.defaultFS//为masterIP地址，其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址，可以指定一个主机+端口，也可以指定为一个namenode服务（这个服务内部可以有多台namenode实现ha的namenode服务）o.file.buffer.size//该属性值单位为KB，131072KB即为默认的64M,这个属性用来执行文件IO缓冲区的大小hadoop.tmp.dir//指定hadoop临时目录，前面用file:表示是本地目录。有的教程上直接使用/usr/local，我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的，必然需要一个临时目录来存放，这里就是指定这个的。当然这个目录前面我们已经创建好了。

<!--也有人使用zookeeper，因此，需要在hadoop核心配置文件core-site.xml中加入zookeeper的配置：--><!--指定zookeeper地址。zookeeper可以感知datanode工作状态，并且提供一些高可用性的特性。暂时不了解zookeeper，后续再说。先不加入这个配置了暂时。--><property><name>ha.zookeeper.quorum</name><value>dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181</value></property>

10、配置 hadoop-env.sh文件，用于配置jdk目录，使用如下命令打开

sudo vim etc/hadoop/hadoop-env.sh

然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191，否则在运行时会提示找不到JAVA_HOME，如下图所示：

11、在mapred-env.sh加入JAVA_HOME，如下图所示：

12、在yarn-env.sh加入JAVA_HOME，如下图所示：

13、配置hdfs-site.xml，使用如下命令打开文件

sudo vim etc/hadoop/hdfs-site.xml

然后在<configuration></configuration>中加入以下代码：

<property><name>dfs.replication</name><value>2</value></property><property><name>dfs.namenode.name.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/name</value><final>true</final></property><property><name>dfs.datanode.data.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/data</value><final>true</final></property><property><name>dfs.namenode.secondary.http-address</name><value>sunxj-hdm.myhd.com:9001</value></property><property><name>dfs.webhdfs.enabled</name><value>true</value></property><property><name>dfs.permissions</name><value>false</value></property>

注意：其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致；由于有两个从主机slave1、slave2，所以dfs.replication设置为2

如下图所示：

属性说明：

配置NameNode

————————————————

版权声明：本文为CSDN博主「sxjlinux」的原创文章，遵循 CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。

原文链接：

搭建spark伪分散式需要先搭建hadoop吗

搭建spark伪分散式需要先搭建hadoop吗

搭建Spark伪分散式不需要Hadoop，因为可以直接从本地读档案。

完全分散式环境需要搭建Hadoop，主要是因为，需要使用HDFS来做分散式储存。

Spark和Hadoop是完全两种丛集。Spark是分散式计算框架，Hadoop是分散式计算/储存/排程框架。Spark可以无缝访问存在HDFS上的资料。

所以两个丛集如何搭建是没有关系的。Spark只关心如何访问HDFS，就是hdfs:namenode:port/能访问就行。

当然Spark作业提交到YARN那是另外一回事了。

shell指令码怎么写hadoop伪分散式环境搭建

因为 Hadoop执行必须安装 JDK环境，因此在安装好 Linux后进入系统的第一步便是安装 JDK，安装过程和在 Windows环境中的安装步骤很类似，首先去 Oracle官网去下载安装包，然后直接进行解压。我自己解压在路径/usr/jvm下面，假如你的安...

利用阿里云可以搭建伪分散式的hadoop的环境吗？

可以的但是网路状况要好伪分散式你在阿里云买一台就可已搭丛集呢

伪分散式搭建hbase，不需要配置masters档案跟slaves档案了吗

必须配置，不过都是配置的本机

mac os x上搭建伪分散式cdh版本hadoop开发环境后怎么进行hadoop开发

路径应该是

/Library/Java/JavaVirtualMachines/jdk1.8.x_xx.jdk/Contents/Home

其中 x_xx应该是你下载的对应版本号。

hadoop在进行伪分散式搭建时ssh必须配置成无密码登入吗

第一步：安装JDK因为 Hadoop执行必须安装 JDK环境，因此在安装好 Linux后进入系统的第一步便是安装 JDK，安装过程和在 Windows环境中的安装步骤很类似，首先去Oracle官网去下载安装包，然后直接进行解压。我自己解压在路径/usr/jvm...

hadoop伪分散式，一个电脑里的VM里安装一个ubuntu，这样能搭建好吗？还是需要2个ubuntu以上才能搭建好？

学习的话一个估计就够用了如何机器配置可以的话

如何搭建hadoop2.6分散式丛集

部署步骤序号操作 1配置SSH无密码登陆 2配置环境变数JAVA(必须),MAVEN,ANT 3配置Hadoop环境变数 4配置core-site.xml档案 5配置hdfs-site.xml档案 6配置mapred-site.xml档案 7配置yarn-site.xml档案 8配置slaves档案 9分发到从机上 10...

hbase 0.99.2能做伪分散式吗

在hbase-default.xml那个档案里加入

<property>

<name>hbase.zookeeper.quorum</name>

<value>你的所有节点ip，如果是伪分散式环境的就是localhost</value>

例如：<value>192.168.1.2,192.168.1.1</value>

</property>

并且检查/etc/hosts档案里是否把127.0.1.1那一个也改成127.0.0.1了，如果没有改，那就把它改成127.0.0.1，分别对应localhost和主机名