ubuntu创建hadoop用户 为hadoop用户在hdfs中创建用户目录
其实ubuntu创建hadoop用户的问题并不复杂，但是又很多的朋友都不太了解为hadoop用户在hdfs中创建用户目录，因此呢，今天小编就来为大家分享ubuntu创建hadoop用户的一些知识，希望可以帮助到大家，下面我们一起来看看这个问题的分析吧！
如何在Linux上安装与配置Hadoop-IT168 技术开发专区
在Linux上安装与配置Hadoop
一、准备工作：
在Linux上安装Hadoop之前，需要先安装两个程序：
1. JDK 1.6或更高版本;
2. SSH(安全外壳协议)，推荐安装OpenSSH。
安装这两个程序的原因：
1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。
2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost(即为自身)，所以对于伪分布式Hadoop，SSH一样是必须的。
二、安装JDK 1.6
以Ubuntu为例安装JDK。
(1)下载和安装JDK
确保可以连接到互联网，输入命令：
sudo apt-get install sun-java6-jdk
输入密码，确认，然后就可以安装JDK了。
(2)配置环境变量
输入命令：
sudo gedit/etc/profile
输入密码，打开profile文件。
在文件的最下面输入如下内容：
#set Java Environment
export JAVA_HOME=（DK安装位置，一般为/usr/lib/jvm/java-6-sun）
export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"
export PATH="$JAVA_HOME/:$PATH"
这一步的意义是配置环境变量，使系统可以找到JDK。
(3)验证JDK是否安装成功
输入命令：
java-version
查看信息：
java version"1.6.0_14"
Java(TM) SE Runtime Environment(build 1.6.0_14-b08)
Java HotSpot(TM) Server VM(build 14.0-b16, mixed mode)
三、配置SSH免密码登录
同样以Ubuntu为例，假设用户名为u。
1)确认已经连接上互联网，输入命令
sudo apt-get install ssh
2)配置为可以无密码登录本机。
首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”，这是一个隐藏文件夹)，输入命令：
ls-a/home/u
一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。
接下来，输入命令：
ssh-keygen-t dsa-P''-f~/.ssh/id_dsa
解释一下，ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思，即密钥类型;-P用于提供密语;-f指定生成的密钥文件。
在Ubuntu中，~代表当前用户文件夹，这里即/home/u。
这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub(公钥)追加到授权的key里面去。
输入命令：
cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys
这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。
至此无密码登录本机已设置完毕。
3)验证SSH是否已安装成功，以及是否可以无密码登录本机。
输入命令：
ssh-version
显示结果：
OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007
Bad escape character'rsion'.
显示SSH已经安装成功了。
输入命令：
ssh localhost
会有类似如下显示：
The authenticity of host'localhost(::1)' can't be established.
RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.
Are you sure you want to continue connecting(yes/no)? yes
Warning: Permanently added'localhost'(RSA) to the list of known hosts.
Linux master 2.6.31-14-generic#48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686
To access official Ubuntu documentation, please visit:
Last login: Mon Oct 18 17:12:40 2010 from master
admin@Hadoop:~$
这说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可进入。
实际上，在Hadoop的安装过程中，是否无密码登录是无关紧要的，但是如果不配置无密码登录，每次启动Hadoop，都需要输入密码以登录到每台机器的DataNode上，考虑到一般的Hadoop集群动辄数百台或上千台机器，因此一般来说都会配置SSH的无密码登录。
四、安装并运行Hadoop
介绍Hadoop的安装之前，先介绍一下Hadoop对各个节点的角色定义。
Hadoop分别从三个角度将主机划分为两种角色。第一，划分为master和slave，即主人与奴隶;第二，从HDFS的角度，将主机划分为NameNode和DataNode(在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而NameNode就是目录管理者);第三，从MapReduce的角度，将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task，从这个角度不难理解它们之间的关系)。
Hadoop有官方发行版与cloudera版，其中cloudera版是Hadoop的商用版本，这里先介绍Hadoop官方发行版的安装方法。
Hadoop有三种运行方式：单节点方式、单机伪分布方式与集群方式。乍看之下，前两种方式并不能体现云计算的优势，在实际应用中并没有什么意义，但是在程序的测试与调试过程中，它们还是很有意义的。
可以通过以下地址获得Hadoop的官方发行版：
下载Hadoop-0.20.2.tar.gz并将其解压，这里会解压到用户目录下，一般为：/home/[你的用户名]/。
单节点方式配置：
安装单节点的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。
伪分布式配置：
可以把伪分布式的Hadoop看做是只有一个节点的集群，在这个集群中，这个节点既是master，也是slave;既是NameNode也是DataNode;既是JobTracker，也是TaskTracker。
伪分布式的配置过程也很简单，只需要修改几个文件，如下所示。
进入conf文件夹，修改配置文件：
Hadoop-env.sh:
export JAVA_HOME=“JDK安装地址”
指定JDK的安装位置：
conf/core-site.xml:
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
</configuration>
这是Hadoop核心的配置文件，这里配置的是HDFS的地址和端口号。
conf/hdfs-site.xml:
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
这是Hadoop中HDFS的配置，配置的备份方式默认为3，在单机版的Hadoop中，需要将其改为1。
conf/mapred-site.xml:
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
这是Hadoop中MapReduce的配置文件，配置的是JobTracker的地址和端口。
需要注意的是，如果安装的是0.20之前的版本，那么只有一个配置文件，即为Hadoop-site.xml。
接下来，在启动Hadoop前，需格式化Hadoop的文件系统HDFS(这点与Windows是一样的，重新分区后的卷总是需要格式化的)。进入Hadoop文件夹，输入下面的命令：
bin/Hadoop NameNode-format
格式化文件系统，接下来启动Hadoop。
输入命令：
bin/start-all.sh（全部启动）
最后，验证Hadoop是否安装成功。
打开浏览器，分别输入网址：
(MapReduce的Web页面)
(HDFS的Web页面)
如果都能查看，说明Hadoop已经安装成功。
对于Hadoop来说，安装MapReduce及HDFS都是必须的，但是如果有必要，依然可以只启动HDFS(start-dfs.sh)或MapReduce(start-mapred.sh)。
在Ubuntu里面搭建四个节点内存怎么分配
一、硬件配置以及操作系统：
所需要的机器以及操作系统：一台mac os笔记本、一台window笔记本（CPU双核四线程，内存8G），其中mac os用于远程操作，window笔记本装有虚拟机，虚拟出3个ubuntu18.04系统（配置CPU1个线程2个，内存1.5G，硬盘分配每个70G），对于mac os（可以用window机或者linux机）的配置没有要求
使用vm创建3个ubuntu18.04系统，一个主节点：master（NameNode）和两个从节点slave1（DataNode）和slave2（DataNode）
节点IP分配：主节点IP为：192.168.0.109、从节点1IP为：192.168.0.110、从节点2IP为：192.168.0.111
虚拟机的网络选择桥接模式与物理网络的网段相同，这样有助于远程连接。
master的主机名为：sunxj-hdm,slave1的主机名为：sunxj-hds1，slave2的主机名为：sunxj-hds2，如下图所示：
定义域名：sunxj-hdm.myhd.com(master)，sunxj-hds1.myhd.com(slave1)，sunxj-hds2.myhd.com(slave2)
配置hosts，将3台的hosts配置为：
192.168.0.109 sunxj-hdm.myhd.com192.168.0.110 sunxj-hds1.myhd.com 192.168.0.111 sunxj-hds2.myhd.com
如下图所示：
注意：不能放在最下边，从注释行开始往下是配置ipv6的，ip和域名之间必须是一个tab，且域名后不能有空格，否则是ping不通的，还有3个主机必须配置相同才能互ping。
7.然后使用如下命令进行重启网络
sudo/etc/init.d/networking restart
如下图所示：
8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通，如果是通的则配置成功，如果不通需要在找原因了，如下图所示：
在master机ping slave1和slave2
在 slave1机ping master和slave2
在 slave2机ping master和slave1
二、节点需要安装的工具：
三个节点需要安装的工具为：vm-tool、gcc、net-tools、openssh-server、vsftpd、vim（用于ftp服务）
安装顺序：
(1)sudo apt install gcc
(2)安装vm-tool
(3)sudo apt install net-tools
(4)sudo apt install vim
(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start启动ssh)
(6)在安装好ssh后即可远程操作，在macos中打开终端进行ssh远程连接，如下图所示：
(7)安装ftp服务并配置vsftpd请看：
三、安装JDK环境
1、安装java，三台主机都需要安装，安装方法请看：
四、创建hadoop用户
1、在master节点上使用如下命令来创建hadoop用户
sudo adduser hadoop
如下图所示：
2、使用如命令把hadoop用户加入到hadoop用户组，前面一个hadoop是组名，后面一个hadoop是用户名
sudo usermod-a-G hadoop hadoop
如下图所示：
3、可以使用如下命令来查看结果
cat/etc/group|grep hadoop
如下图所示：
4、把hadoop用户赋予root权限，让他可以使用sudo命令，使用如下命令编辑
sudo vim/etc/sudoers
修改文件如下：
root ALL=(ALL) ALL hadoop ALL=(root) NOPASSWD:ALL
如下图所示：
修改前：
修改后：
5、用同样方法在slave1和slave2上创建hadoop用户。
五、建立ssh无密码登录本机
ssh生成密钥有rsa和dsa两种生成方式，默认情况下采用rsa方式。
1、首先用hadoop用户在master主机上创建ssh-key，这里我们采用rsa方式。使用如下命令(P是要大写的，后面跟""，表示无密码)
ssh-keygen-t rsa-P""
如下图所示：
2、直接回车即可，然后就会生成相应的信息，如下图所示：
3、回车后会在~/.ssh/下生成两个文件：id_rsa和id_rsa.pub这两个文件是成对出现的，进入到该目录查看，如下图所示：
4、然后分别在slave1和slave2用同样的方法生成，然后分别用
scp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave1_id_rsa.pubscp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave2_id_rsa.pub
将slave1和slave2的文件上传到master上，如下图所示：
5、使用如下指令，将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录
sudo mv/home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pubsudo mv/home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub
如下图所示：
6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中，开始是没有authorized_keys文件的，只需要执行如下命令即可：
cat*.pub>>authorized_keys
如下图所示：
7、然后可以通过：ssh localhost测试本机无密码登录，如下图所示：
8、将master上的公钥拷贝到slave1和slave2上，使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中，使用如下命令来上传
scp authorized_keys hadoop@192.168.0.110:/home/sunftp/ftpdirscp authorized_keys hadoop@192.168.0.111:/home/sunftp/ftpdir
，如下图所示：
9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件，如下图所示：
10、分别在两台slave机器上执行1~3部，然后如下命令将公钥拷贝到~/.ssh/目录中
cp/home/sunftp/ftpdir/authorized_keys~/.ssh/authorized_keys
如下图所示：
11、使用：sudo chmod 664 authorized_keys修改authorized_keys的权限，如下图所示：
12、然后在mstar上无密码登录slave1和slave2，如下图所示：
13、然后在slave1上无密码登录mstar和slave2，如下图所示：
14、然后在slave2上无密码登录slave1和mstar，如下图所示：
注意：如果无法登录请查看/home/下的用户权限是否是755，如果不是则无法登录的，我的slave1就是将/home/sunxj的权限设置为：777,只需要将sunxj设置为755即可，如下图所示：
12、到此就可以在master上无密码登录slave1和slave2了。
六、安装hadoop
1、首先从下载，如下版本：
2、这里选择hadoop2.7.7的Binary版本。
3、使用scp命令将下载好的hadoop上传到master，(此时的用户名也可以使用其他的用户配置)如下图所示：
4、使用如下命令解压
tar-xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz
如下图所示：
5、将hadoop-2.7.7移动到/usr/目录，如下图所示：
6、查看hadoop的目录，如下图所示：
7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录，如
hadoop-2.7.3/hdfs
hadoop-2.7.3/hdfs/tmp
hadoop-2.7.3/hdfs/name
hadoop-2.7.3/hdfs/data
8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有：
core-site.xml
hadoop-env.sh
hdfs-site.xml
mapred-site.xml.template
yarn-env.sh
yarn-site.xml
mapred-env.sh
slaves
如下图所示：
9、首先配置core-site.xml文件，使用如下命令打开
sudo vim etc/hadoop/core-site.xml
然后在<configuration></configuration>中如下配置是读写sequence file的 buffer size,可减少 I/O次数。在大型的 Hadoop cluster，建议可设定为 65536到 131072，默认值 4096.按照教程配置了131072：
<property><name>hadoop.tmp.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/tmp</value><description>A base for other temporary directories.</description></property><property><name>io.file.buffer.size</name><value>131072</value></property><property><name>fs.defaultFS</name><value>hdfs://sunxj-hdm.myhd.com:9000</value></property>
注意：第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。
如下图所示：
属性说明：
参数
属性值
解释
fs.defaultFS
NameNode URI
hdfs://host:port/
io.file.buffer.size
131072
SequenceFiles文件中.读写缓存size设定
fs.defaultFS//为masterIP地址，其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址，可以指定一个主机+端口，也可以指定为一个namenode服务（这个服务内部可以有多台namenode实现ha的namenode服务）o.file.buffer.size//该属性值单位为KB，131072KB即为默认的64M,这个属性用来执行文件IO缓冲区的大小hadoop.tmp.dir//指定hadoop临时目录，前面用file:表示是本地目录。有的教程上直接使用/usr/local，我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的，必然需要一个临时目录来存放，这里就是指定这个的。当然这个目录前面我们已经创建好了。
<!--也有人使用zookeeper，因此，需要在hadoop核心配置文件core-site.xml中加入zookeeper的配置：--><!--指定zookeeper地址。zookeeper可以感知datanode工作状态，并且提供一些高可用性的特性。暂时不了解zookeeper，后续再说。先不加入这个配置了暂时。--><property><name>ha.zookeeper.quorum</name><value>dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181</value></property>
10、配置 hadoop-env.sh文件，用于配置jdk目录，使用如下命令打开
sudo vim etc/hadoop/hadoop-env.sh
然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191，否则在运行时会提示找不到JAVA_HOME，如下图所示：
11、在mapred-env.sh加入JAVA_HOME，如下图所示：
12、在yarn-env.sh加入JAVA_HOME，如下图所示：
13、配置hdfs-site.xml，使用如下命令打开文件
sudo vim etc/hadoop/hdfs-site.xml
然后在<configuration></configuration>中加入以下代码：
<property><name>dfs.replication</name><value>2</value></property><property><name>dfs.namenode.name.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/name</value><final>true</final></property><property><name>dfs.datanode.data.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/data</value><final>true</final></property><property><name>dfs.namenode.secondary.http-address</name><value>sunxj-hdm.myhd.com:9001</value></property><property><name>dfs.webhdfs.enabled</name><value>true</value></property><property><name>dfs.permissions</name><value>false</value></property>
注意：其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致；由于有两个从主机slave1、slave2，所以dfs.replication设置为2
如下图所示：
属性说明：
配置NameNode
————————————————
版权声明：本文为CSDN博主「sxjlinux」的原创文章，遵循 CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：
如何在ubuntu上安装hadoop
1、创建hadoop管理员帐号
直接在终端执行如下命令行：
1 sudo adduser hadoop
然后要求你设置hadoop帐户密码，这个命令是添加一个名为hadoop的标准帐户，我们需要的是管理员帐号
可以直接在图形界面下修改hadoop权限，将鼠标点击右上角的一个人头处，浮现列表，点击“用户账户”，解锁，然后更改为管理员权限
2、安装ssh服务
ssh可以实现远程登录和管理，详细情况请google百度
ubuntu默认并没有安装ssh服务，如果通过ssh链接ubuntu，需要自己手动安装ssh-server。命令行：
1 sudo apt-get install ssh openssh-server
3、ssh无密码验证登录
创建ssh-key，这里我们采用rsa方式，命令行如下：
1 ssh-keygen-t rsa-P""
出现一个图形，出现的图形就是密码，不用管它
1 cat~/.ssh/id_rsa.pub>> authorized_keys
然后即可无密码验证登录了，如下：
1 ssh localhost
退出命令行为：
exit
4、解压hadoop源码包
终端下进入hadoop源码包所在目录，使用复制命令把hadoop源码包复制到/home/hadoop下
1 cp hadoop-1.2.1.tar.gz/home/hadoop
然后解压,命令行如下
tar-xzvf*.tag.gz
5、配置hadoop的hadoop/conf下的hadoop-env.sh，core-site.xml，mapred-site.xml，hdfs-site.xml
配置hadoop-1.2.1/conf/hadoop-env.sh，命令行：
1 gedit/home/hadoop/hadoop-1.2.1/conf/hadoop-env.sh
ctrl+ f搜索到JAVA_HOME
把前面的#去掉，加上本系统jdk路径，保存退出
配置hadoop-1.2.1/conf/core-site.xml，命令行：
gedit/home/hadoop/hadoop-1.2.1/conf/core-site.xml
在hadoop新建hadoop_tmp目录，
将如下<configuration></configuration>之间的添加进入，保存退出
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file.-->
<configuration>
<property>
<name>fs.default.name</name>
<value>hdfs://localhost:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/home/hadoop/hadoop-1.2.1/hadoop_tmp</value>
<description>A base for other temporary directories.</description>
</property>
</configuration>
配置hadoop-1.2.1/conf/mapre-site.xml，命令行：
1 gedit/home/hadoop/hadoop-1.2.1/conf/mapre-site.xml.xml
将如下<configuration></configuration>之间的添加进入，保存退出
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file.-->
<configuration>
<property>
<name>mapred.job.tracker</name>
<value>localhost:9001</value>
</property>
</configuration>
配置hadoop-1.2.1/conf/hdfs-site.xml，命令行：
1 gedit/home/hadoop/hadoop-1.2.1/conf/hdfs-site.xml
将如下<configuration></configuration>之间的添加进入，保存退出
<?xml version="1.0"?>
<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>
<!-- Put site-specific property overrides in this file.-->
<configuration>
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
</configuration>
至此hadoop的安装配置已经完毕，稍后的是hadoop的初次运行操作
6、格式化hdfs文件系统
进入hadoop-1.2.1
/bin/hadoop namenode-format
7、启动hadoop服务
/bin/start-all.sh
出现如下画面
jps
jps是查看java虚拟机运行的java线程
然后出现如下画面
不计jps，有五个hadoop相关线程，恭喜你，hadoop安装配置成功，运行正常。
然后可以退出hadoop。，以后再用时再启动，导入数据
