ubuntu hadoop2.7 ubuntu最好用最普及的版本
大家好，今天小编来为大家解答ubuntu hadoop2.7这个问题，ubuntu最好用最普及的版本很多人还不知道，现在让我们一起来看看吧！
在Ubuntu里面搭建四个节点内存怎么分配
一、硬件配置以及操作系统：
所需要的机器以及操作系统：一台mac os笔记本、一台window笔记本（CPU双核四线程，内存8G），其中mac os用于远程操作，window笔记本装有虚拟机，虚拟出3个ubuntu18.04系统（配置CPU1个线程2个，内存1.5G，硬盘分配每个70G），对于mac os（可以用window机或者linux机）的配置没有要求
使用vm创建3个ubuntu18.04系统，一个主节点：master（NameNode）和两个从节点slave1（DataNode）和slave2（DataNode）
节点IP分配：主节点IP为：192.168.0.109、从节点1IP为：192.168.0.110、从节点2IP为：192.168.0.111
虚拟机的网络选择桥接模式与物理网络的网段相同，这样有助于远程连接。
master的主机名为：sunxj-hdm,slave1的主机名为：sunxj-hds1，slave2的主机名为：sunxj-hds2，如下图所示：
定义域名：sunxj-hdm.myhd.com(master)，sunxj-hds1.myhd.com(slave1)，sunxj-hds2.myhd.com(slave2)
配置hosts，将3台的hosts配置为：
192.168.0.109 sunxj-hdm.myhd.com192.168.0.110 sunxj-hds1.myhd.com 192.168.0.111 sunxj-hds2.myhd.com
如下图所示：
注意：不能放在最下边，从注释行开始往下是配置ipv6的，ip和域名之间必须是一个tab，且域名后不能有空格，否则是ping不通的，还有3个主机必须配置相同才能互ping。
7.然后使用如下命令进行重启网络
sudo/etc/init.d/networking restart
如下图所示：
8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通，如果是通的则配置成功，如果不通需要在找原因了，如下图所示：
在master机ping slave1和slave2
在 slave1机ping master和slave2
在 slave2机ping master和slave1
二、节点需要安装的工具：
三个节点需要安装的工具为：vm-tool、gcc、net-tools、openssh-server、vsftpd、vim（用于ftp服务）
安装顺序：
(1)sudo apt install gcc
(2)安装vm-tool
(3)sudo apt install net-tools
(4)sudo apt install vim
(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start启动ssh)
(6)在安装好ssh后即可远程操作，在macos中打开终端进行ssh远程连接，如下图所示：
(7)安装ftp服务并配置vsftpd请看：
三、安装JDK环境
1、安装java，三台主机都需要安装，安装方法请看：
四、创建hadoop用户
1、在master节点上使用如下命令来创建hadoop用户
sudo adduser hadoop
如下图所示：
2、使用如命令把hadoop用户加入到hadoop用户组，前面一个hadoop是组名，后面一个hadoop是用户名
sudo usermod-a-G hadoop hadoop
如下图所示：
3、可以使用如下命令来查看结果
cat/etc/group|grep hadoop
如下图所示：
4、把hadoop用户赋予root权限，让他可以使用sudo命令，使用如下命令编辑
sudo vim/etc/sudoers
修改文件如下：
root ALL=(ALL) ALL hadoop ALL=(root) NOPASSWD:ALL
如下图所示：
修改前：
修改后：
5、用同样方法在slave1和slave2上创建hadoop用户。
五、建立ssh无密码登录本机
ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。
1、首先用hadoop用户在master主机上创建ssh-key，这里我们采用rsa方式。使用如下命令(P是要大写的，后面跟""，表示无密码)
ssh-keygen-t rsa-P""
如下图所示：
2、直接回车即可，然后就会生成相应的信息，如下图所示：
3、回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的，进入到该目录查看，如下图所示：
4、然后分别在slave1和slave2用同样的方法生成，然后分别用
scp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave1_id_rsa.pubscp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave2_id_rsa.pub
将slave1和slave2的文件上传到master上，如下图所示：
5、使用如下指令，将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录
sudo mv/home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pubsudo mv/home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub
如下图所示：
6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的，只需要执行如下命令即可：
cat*.pub>>authorized_keys
如下图所示：
7、然后可以通过：ssh localhost测试本机无密码登录，如下图所示：
8、将master上的公钥拷贝到slave1和slave2上，使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中，使用如下命令来上传
scp authorized_keys hadoop@192.168.0.110:/home/sunftp/ftpdirscp authorized_keys hadoop@192.168.0.111:/home/sunftp/ftpdir
，如下图所示：
9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件，如下图所示：
10、分别在两台slave机器上执行1~3部，然后如下命令将公钥拷贝到~/.ssh/目录中
cp/home/sunftp/ftpdir/authorized_keys~/.ssh/authorized_keys
如下图所示：
11、使用：sudo chmod 664 authorized_keys修改authorized_keys的权限，如下图所示：
12、然后在mstar上无密码登录slave1和slave2，如下图所示：
13、然后在slave1上无密码登录mstar和slave2，如下图所示：
14、然后在slave2上无密码登录slave1和mstar，如下图所示：
注意：如果无法登录请查看/home/下的用户权限是否是755，如果不是则无法登录的，我的slave1就是将/home/sunxj的权限设置为：777,只需要将sunxj设置为755即可，如下图所示：
12、到此就可以在master上无密码登录slave1和slave2了。
六、安装hadoop
1、首先从下载，如下版本：
2、这里选择hadoop2.7.7的Binary版本。
3、使用scp命令将下载好的hadoop上传到master，(此时的用户名也可以使用其他的用户配置)如下图所示：
4、使用如下命令解压
tar-xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz
如下图所示：
5、将hadoop-2.7.7移动到/usr/目录，如下图所示：
6、查看hadoop的目录，如下图所示：
7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录，如
hadoop-2.7.3/hdfs
hadoop-2.7.3/hdfs/tmp
hadoop-2.7.3/hdfs/name
hadoop-2.7.3/hdfs/data
8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有：
core-site.xml
hadoop-env.sh
hdfs-site.xml
mapred-site.xml.template
yarn-env.sh
yarn-site.xml
mapred-env.sh
slaves
如下图所示：
9、首先配置core-site.xml文件，使用如下命令打开
sudo vim etc/hadoop/core-site.xml
然后在<configuration></configuration>中如下配置是读写sequence file的 buffer size,可减少 I/O次数。在大型的 Hadoop cluster，建议可设定为 65536到 131072，默认值 4096.按照教程配置了131072：
<property><name>hadoop.tmp.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/tmp</value><description>A base for other temporary directories.</description></property><property><name>io.file.buffer.size</name><value>131072</value></property><property><name>fs.defaultFS</name><value>hdfs://sunxj-hdm.myhd.com:9000</value></property>
注意：第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。
如下图所示：
属性说明：
参数
属性值
解释
fs.defaultFS
NameNode URI
hdfs://host:port/
io.file.buffer.size
131072
SequenceFiles文件中.读写缓存size设定
fs.defaultFS//为masterIP地址，其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址，可以指定一个主机+端口，也可以指定为一个namenode服务（这个服务内部可以有多台namenode实现ha的namenode服务）o.file.buffer.size//该属性值单位为KB，131072KB即为默认的64M,这个属性用来执行文件IO缓冲区的大小hadoop.tmp.dir//指定hadoop临时目录，前面用file:表示是本地目录。有的教程上直接使用/usr/local，我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的，必然需要一个临时目录来存放，这里就是指定这个的。当然这个目录前面我们已经创建好了。
<!--也有人使用zookeeper，因此，需要在hadoop核心配置文件core-site.xml中加入zookeeper的配置：--><!--指定zookeeper地址。zookeeper可以感知datanode工作状态，并且提供一些高可用性的特性。暂时不了解zookeeper，后续再说。先不加入这个配置了暂时。--><property><name>ha.zookeeper.quorum</name><value>dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181</value></property>
10、配置 hadoop-env.sh文件，用于配置jdk目录，使用如下命令打开
sudo vim etc/hadoop/hadoop-env.sh
然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191，否则在运行时会提示找不到JAVA_HOME，如下图所示：
11、在mapred-env.sh加入JAVA_HOME，如下图所示：
12、在yarn-env.sh加入JAVA_HOME，如下图所示：
13、配置hdfs-site.xml，使用如下命令打开文件
sudo vim etc/hadoop/hdfs-site.xml
然后在<configuration></configuration>中加入以下代码：
<property><name>dfs.replication</name><value>2</value></property><property><name>dfs.namenode.name.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/name</value><final>true</final></property><property><name>dfs.datanode.data.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/data</value><final>true</final></property><property><name>dfs.namenode.secondary.http-address</name><value>sunxj-hdm.myhd.com:9001</value></property><property><name>dfs.webhdfs.enabled</name><value>true</value></property><property><name>dfs.permissions</name><value>false</value></property>
注意：其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致；由于有两个从主机slave1、slave2，所以dfs.replication设置为2
如下图所示：
属性说明：
配置NameNode
————————————————
版权声明：本文为CSDN博主「sxjlinux」的原创文章，遵循 CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：
怎么搭建两个hadoop集群的测试环境
环境配置：
虚拟机：
vmware workstation 12
系统：
ubuntu 16.04 LTS（推荐使用原版，不要用kylin）
节点： 192.168.159.132 master 192.168.159.134 node1 192.168.159.137 node2
jdk-8u101-Linux-x64.gz(Java)hadoop-2.7.3.tar.gz(Hadoop包)
安装步骤：
1、安装虚拟机系统，并进行准备工作（可安装一个然后克隆）
2.修改各个虚拟机的hostname和host
3.创建用户组和用户
4、配置虚拟机网络，使虚拟机系统之间以及和host主机之间可以通过相互ping通。
5.安装jdk和配置环境变量，检查是否配置成功
6、配置ssh，实现节点间的无密码登录 ssh node1/2指令验证时候成功
7、master配置hadoop，并将hadoop文件传输到node节点
8、配置环境变量，并启动hadoop，检查是否安装成功，执行wordcount检查是否成功。
1.安装虚拟机
在VM上安装下载好的Ubuntu的系统，具体过程自行百度。可以安装完一个以后克隆，但是本人安装过程中遇到很多问题，经常需要删除虚拟机，重新安装，而被克隆的虚拟机不能删除，所以本人就用了很长时候，一个一个安装。
一共3台虚拟机：分配情况和IP地址如下：
（注：查看ip地址的指令 ifconfig）
安装虚拟机时可以设置静态IP，因为过程中常常遇到网络连接问题,ifconfig找不到IPV4地址。当然，也可以不设，默认分配。
192.168.159.132 master 192.168.159.134 node1 192.168.159.137 node2
2.修改虚拟机的hostname和hosts文件
以master上机器为例，打开终端，执行如下的操作，把hostname修改成master，hosts修改成如下所示的样子：
#修改hostname的指令：sudo gedit/etc/hostname
#修改hosts指令：sudo gedit/etc/hosts
#将以下内容添加到hosts中192.168.159.132 master192.168.159.134 node1192.168.159.137 node2
如下图所示:
同样地，在node1和node2机器上做相似的操作，分别更改主机名为node1和node2，然后把hosts文件更改和master一样。
3.创建用户和用户组（三台机器上都要操作）
1.创建hadoop用户组
sudo addgroup hadoop
2.创建hadoop用户
sudo adduser-ingroup hadoop hadoop
3.给hadoop用户添加权限，打开/etc/sudoers文件
sudo gedit/etc/sudoers
按回车键后就会打开/etc/sudoers文件了，给hadoop用户赋予root用户同样的权限
在root ALL=(ALL:ALL) ALL下添加hadoop ALL=(ALL:ALL) ALL
4.检验各个主机之间能否连通
分别以刚刚创建的hadoop用户重新登录系统，以后的操作都以hadoop用户登录。
ping+主机名
分别在各个主机上执行上述指令，看是否能与其他主机连通。
出现下图代表能够连通：
如果都成功ping通，进行下面的操作。
5.安装jdk和配置环境变量
分别在每台主机上安装jdk，并配置环境变量。（嫌麻烦的前面可以安装完jdk后再克隆）
1）下载jdk安装包（自行百度），并将安装包拖入到虚拟机当中
2）通过cd命令进入到安装包的当前目录，利用如下命令进行解压缩。
tar-zxvf jdk.....(安装包名称)
3）利用如下命令将解压后的文件夹移到/usr目录下
#注意，这样移动到/usr以后就没有jdk1.8...这个目录了，是将这个目录下的所有文件全部移动到/usr/java下，mv jdk1.8...(文件夹名称)/usr/java
4）配置环境变量
sudo gedit/etc/profile
在末尾加上四行：
[plain]view plaincopyprint?
#java
exportJAVA_HOME=/usr/java
exportJRE_HOME=/usr/java/jre
exportCLASSPATH=$JAVA_HOME/lib
exportPATH=:$PATH:$JAVA_HOME/bin:$JRE_HOME/bin
输入如下命令使配置生效：source/etc/profile
查看配置是否成功，
出现如上信息说明java配置成功。
6.配置SSH，实现节点间的无密码登录
本人在这一步经常出错，莫名其妙的错误，网上也找不到资料。需要自己多实验几次。
下面的 1.2.3在所有主机上都要做
1..安装ssh
[plain]view plaincopyprint?
sudoapt-getinstallopenssh-server
已有ssh或者安装成功了的输入命令
[plain]view plaincopyprint?
ps-e|grepssh
验证SSH是否成功安装输入
[plain]view plaincopyprint?
sshlocalhost
出现以下提示说明安装成功
3.生成密钥Pair
ssh-keygen-trsa
输入之后一直选择enter即可。生成的秘钥位于~/.ssh文件夹下。可用cd命令进入查看。
4.在master上，导入authorized_keys
cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys
5.远程无密码登录(把master上的authorized_keys拷贝到其他主机的相应目录下)
#进入master的.ssh目录,执行复制操作
scp authorized_keys hadoop@node1:~/.ssh/
scp authorized_keys hadoop@node2:~/.ssh/
修改各台主机上authorized_keys文件的权限：
所有机器上，均执行命令：
chmod 600.ssh/authorized_keys
完成之后，在master上执行下面操作，检查免密码登录是否成功。
ssh node1(node2)
7.master配置hadoop,然后将master的hadoop文件传送给node节点
1）解包移动
[plain]view plaincopyprint?
#解压hadoop包
tar-zxvfhadoop...
#将安装包移到/usr目录下
mvhadoop.../usr/hadoop
2）新建文件夹
[plain]view plaincopyprint?
#在/usr/hadoop目录下新建如下目录(root)
mkdir/dfs
mkdir/dfs/name
mkdir/dfs/data
mkdir/tmp
3)配置文件：hadoop-env.sh(文件都在/usr/hadoop/etc/hadoop中)
修改JAVA_HOME值（export JAVA_HOME=/usr/java）
4)配置文件：yarn-env.sh
修改JAVA_HOME值（export JAVA_HOME=/usr/java）
5)配置文件：slaves
将内容修改为：
node1
node2
6)配置文件：core-site.xml
[html]view plaincopyprint?
<configuration>
<property>
<name>fs.defaultFS</name>
<value>hdfs://master:9000</value>
</property>
<property>
<name>io.file.buffer.size</name>
<value>131072</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>file:/usr/hadoop/tmp</value>
<description>Abaseforothertemporarydirectories.</description>
</property>
</configuration>
7)配置文件：hdfs-site.xml
[html]view plaincopyprint?
<configuration>
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>master:9001</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/hadoop/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/hadoop/dfs/data</value>
</property>
<property>
<name>dfs.replication</name>
<value>2</value>
</property>
<property>
<name>dfs.webhdfs.enabled</name>
<value>true</value>
</property>
</configuration>
8)配置文件：mapred-site.xml
先创建然后编辑
cp etc/hadoop/mapred-site.xml.template etc/hadoop/mapred-site.xml
gedit etc/hadoop/mapred-site.xml
[html]view plaincopyprint?
<configuration>
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
<property>
<name>mapreduce.jobhistory.address</name>
<value>master:10020</value>
</property>
<property>
<name>mapreduce.jobhistory.webapp.address</name>
<value>master:19888</value>
</property>
</configuration>
9)配置文件：yarn-site.xml
[html]view plaincopyprint?
<configuration>
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.nodemanager.aux-services.mapreduce.shuffle.class</name>
<value>org.apache.hadoop.mapred.ShuffleHandler</value>
</property>
<property>
<name>yarn.resourcemanager.address</name>
<value>master:8032</value>
</property>
<property>
<name>yarn.resourcemanager.scheduler.address</name>
<value>master:8030</value>
</property>
<property>
<name>yarn.resourcemanager.resource-tracker.address</name>
<value>master:8031</value>
</property>
<property>
<name>yarn.resourcemanager.admin.address</name>
<value>master:8033</value>
</property>
<property>
<name>yarn.resourcemanager.webapp.address</name>
<value>master:8088</value>
</property>
</configuration>
10)将hadoop传输到node1和node2 usr/hadoop目录,（如果传输时报错说：权限拒绝，先把文件传送到非/usr目录下，然后在node上把这个文件再移动到/usr/hadoop）
scp-r/usr/hadoop hadoop@node1:/usr/hadoop
7、配置环境变量，并启动hadoop，检查是否安装成功
1）配置环境变量
#编辑/etc/profilesudo gedit/etc/profile#以上已经添加过java的环境变量,在后边添加就可以#hadoopexportHADOOP_HOME=/opt/Hadoop/hadoop-2.7.2exportPATH=$PATH:$HADOOP_HOME/sbinexportPATH=$PATH:$HADOOP_HOME/bin
执行
source/etc/profile
使文件生效。
2）启动hadoop,进入hadoop安装目录
bin/hdfs namenode-format
sbin/start-all.sh
3)启动后分别在master, node下输入jps查看进程
看到下面的结果，则表示成功。
Master:
node:
8.向hadoop集群系统提交第一个mapreduce任务(wordcount)
进入本地hadoop目录（/usr/hadoop）
1、 bin/hdfsdfs-mkdir-p/data/input在虚拟分布式文件系统上创建一个测试目录/data/input
2、 hdfsdfs-put README.txt/data/input将当前目录下的README.txt文件复制到虚拟分布式文件系统中
3、 bin/hdfs dfs-ls/data/input查看文件系统中是否存在我们所复制的文件
如图操作：
3、运行如下命令向hadoop提交单词统计任务
进入jar文件目录，执行下面的指令。
hadoop jar share/hadoop/mapreduce/hadoop-mapreduce-examples-2.7.3.jar wordcount/data/input/data/output/result
查看result，结果在result下面的part-r-00000中
hdfsdfs-cat/data/output/result/part-r-00000
自此，hadoop集群搭建成功！
如何在ubuntu下搭建spark集群
搭建基于Ubuntu的Spark集群需要经过以下几个步骤。首先，确保在Ubuntu系统中已经安装了Scala，因为Spark是基于Scala开发的。安装Scala的命令为：
sudo apt-get install scala
安装完成后，通过运行scala-version，确认Scala版本（如2.11版本），并查看安装目录（如/usr/share/scala-2.11）。
接下来，下载并解压Spark。访问官方网站，找到最新版本的Spark下载链接，选择与Hadoop版本兼容的Spark版本进行下载。下载完成后，使用以下命令解压文件：
tar xvf spark-2.0.2-bin-hadoop2.7.tgz
将解压的文件夹移动到指定目录，通常选择与Hadoop同目录，如：
sudo mv spark-2.0.2-bin-hadoop2.7/usr/local/spark
进入Spark文件夹下的conf文件夹，复制并编辑spark-env.sh文件，添加环境变量设置，确保与系统环境兼容。内容如下：
export SCALA_HOME=/usr/share/scala-2.11
export JAVA_HOME=/usr/lib/jvm/java-8-openjdk-amd64
export HADOOP_HOME=/usr/local/hadoop
export HADOOP_CONF_DIR=$HADOOP_HOME/etc/hadoop
SPARK_MASTER_IP=master
SPARK_LOCAL_DIRS=/usr/local/spark
SPARK_DRIVER_MEMORY=1G
export LD_LIBRARY_PATH=/usr/local/hadoop/lib/native/:$LD_LIBRARY_PATH
接下来，复制并编辑slaves文件，设置集群的节点列表。例如：
slave01
slave02
在master节点上，先启动Hadoop，然后运行：
/usr/local/spark/sbin/start-all.sh
以启动Spark集群。使用jps命令查看启动的进程，确认Spark Master进程的加入。在slave节点上执行相同的步骤，启动Worker进程。
访问Spark的Web界面（如：192.168.100.40:8080/）以确认所有节点都已成功启动。最后，运行Spark示例程序以验证集群是否正常运行。使用以下命令：
/usr/local/spark/bin/run-example SparkPi 10--slave01 local[2]
通过结果输出（如：Pi is roughly 3.14XXXXX），确认Spark集群搭建成功。
