linux启动hadoop？怎么启动hadoop

2025-1-10

大家好，今天来为大家解答linux启动hadoop这个问题的一些问题点，包括怎么启动hadoop也一样很多人还不知道，因此呢，今天就来为大家分析分析，现在让我们一起来看看吧！如果解决了您的问题，还望您关注下本站哦，谢谢~

windows不能执行hadoop吗为什么非要用linux执行hadoop

hadoop 2.0还是2.20之后有相容windows的版本，然而大部分都是部署在linux上的。记得刚出win版本的那天，我兴冲冲的下载部署了一整天还是遇到各种问题没能部署成功。至今为止还没见到有哪个公司把hadoop生产环境部署在windows上的。

为什么hadoop job执行的时候其他的执行绪不能执行

首先，一个job具体启动多少个map，是由你配置的inputformat来决定的。inputformat在分配任务之前会对输入进行切片。最终启动的map数目，就是切片的结果数目。具体来看一、如果使用是自定义的inputformat，那么启动多少个map需要获取mapreduce的执行资讯,比如执行状态,map,reduce的执行进度. hadoop 50030埠提供web ui服务,没找到提供json或者xml的服务方式.于是,查询hadoop 50030的载入

linux为什么不能执行windows程式

首先系统是不一样的。windows系统是避源的，linux系统是开源的，Linux系统一般是命令列的，而windows系统是偏向于图形化的。就像苹果手机是不能允许安卓手机的软体的。但是Linux系统在不多的强大。不断的创新，图形化已经做的非常好了，软体也越来越丰富了。在Linux上面执行windows程式变得没有那么困难了--wine。

可以尝试使用wine来执行windows系统。Linux的学习是一个过程，需要不断的去探索。更多的知识建议参考《Linux就该这样学》，加油吧，不断探索Linux的奥秘吧

python执行hadoop用到什么库

# map:对序列的每个元素进行一个指定的操作>>> lst= map(lambda x:"%02d"% x, range(10))>>> lst ['00','01','02','03','04','05','06','07','08','09']>>># reduce:对序列每个元素进行一种“累进”操作>>> rst= reduce(lambd...

怎么检视hadoop能不能执行

看各个节点的程序，是不是都起来了，通过web查各个节点的状态，是不是都正常

一般都是上传一个档案，看看成不成功

然后执行那个wordcount的，统计单词的数量，如果执行都没有问题，就OK了

windows下的exe为什么在linux下不能执行

linux下需要安装wine来相容windows下的程式。

一.安装Wine

Wine适应于所有流行的UNIX作业系统，包括Ubuntu、Debian、Red Hat、SUSE、Mandriva、FreeBSD、Solaris和Mac OS X。

在Ubuntu上：

一、通过Unbuntu软体中心安装

1、开启Applications(应用程式)>Ubuntu Sofare Center(Unbuntu软体中心)，开启Ubuntu软体中心。

然后点选Edit(编辑)>Sofare Sources(软体源)。选择Other Sofare(其他软体)选项卡，点选Add(新增)。然后输入下列apt行：ppa:ubuntu-wine/ppa

2、Allsofares右侧选单中选择“PPA for Ubuntu Wine Team”，然后选择Microsoft Windows Compatibility Layer(Development files)– wine1.3-dev。点选Install(安装)。这会安装最新的Wine软体包，包括开发库。

提示：解除安装现有的Wine软体包，以确保最大的相容性。另外，如果想干净安装，可以删除Wine使用者目录，为此可以从主目录中使用命令rm-r-v.wine。

二、通过终端安装

终端输入[如何在Ubuntu14.04中安装和执行Windows应用程式]

sudo add-apt-repository ppa:ubuntu-wine/ppa

sudo apt-get update

apt-get install wine1.7

wine--version

[Wine完全解除安装]

二、安装Wine支援包

现在，需要安装非开源(但免费)的支援包。这包括微软Core Fonts、Visual C++执行时环境等软体包。

安装Cabextract：

需要该软体包来解压缩微软.cab档案。

$ sudo apt-get install cabextract

在Windows上执行Hadoop，配置好java，cygwin，hadoop之后，要怎么做

启动cygwin就可以操作hadoop了。比如start-all.sh、jps、s-all.sh等

游戏的执行和机器的CPU，记忆体，独立显示核心等硬体配置有直接的关系，另外也和系统，驱动，其他软体等也有联络。当前，是否可以玩一个游戏，首先需要检视游戏执行的配置要求和机器的配置要求做一个对比，检视机器的配置是否符合。如果可以满足游戏的最低执行需求，则可以支援。"

搭建成功之后重新开启UBUNTU,怎么启动hadoop

终于成功搭建完毕Hadoop完全分布式环境。其中耽误时间最长的是datanode无法启动。其实是自己的低级错误。

3台虚拟机，一台master，两台salve。

第一次错误，查看日志，是hdfs-site.xml文件配置拼写错误。

第二次到第N次都是 slave无法连接到master，以下是我检查的方向：

1.master和 slave的防火墙确认是关闭的。

2.再次检查配置文件：fs.default.name和mapred.job.tracker的value值 master和ip都试试。

3.再第一次发生错误修改完毕后，format namenode时无法成功，这是因为配置的dfs.name.dir和dfs.data.dir文件目录没有删除，需要手动删除master和slave的相关文件夹。

4.ssh连接。配置完ssh无密码登陆之后，需要连接一次（第一次连接会让你输入yes?），这正是我花费时间最长的地方。master连接slave，slave也要连接master。之后再format，启动hadoop，jps查看进程成功启动。

从这次搭建环境中，学会了试着分析日志找到问题，同时通过一步步排除可能的原因得到最后的原因。

如何在Linux上安装与配置Hadoop-IT168 技术开发专区

在Linux上安装与配置Hadoop

一、准备工作：

在Linux上安装Hadoop之前，需要先安装两个程序：

1. JDK 1.6或更高版本;

2. SSH(安全外壳协议)，推荐安装OpenSSH。

安装这两个程序的原因：

1. Hadoop是用Java开发的，Hadoop的编译及MapReduce的运行都需要使用JDK。

2. Hadoop需要通过SSH来启动salve列表中各台主机的守护进程，因此SSH也是必须安装的，即使是安装伪分布式版本(因为Hadoop并没有区分集群式和伪分布式)。对于伪分布式，Hadoop会采用与集群相同的处理方式，即依次序启动文件conf/slaves中记载的主机上的进程，只不过伪分布式中salve为localhost(即为自身)，所以对于伪分布式Hadoop，SSH一样是必须的。

二、安装JDK 1.6

以Ubuntu为例安装JDK。

(1)下载和安装JDK

确保可以连接到互联网，输入命令：

sudo apt-get install sun-java6-jdk

输入密码，确认，然后就可以安装JDK了。

(2)配置环境变量

输入命令：

sudo gedit/etc/profile

输入密码，打开profile文件。

在文件的最下面输入如下内容：

#set Java Environment

export JAVA_HOME=（DK安装位置，一般为/usr/lib/jvm/java-6-sun）

export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"

export PATH="$JAVA_HOME/:$PATH"

这一步的意义是配置环境变量，使系统可以找到JDK。

(3)验证JDK是否安装成功

输入命令：

java-version

查看信息：

java version"1.6.0_14"

Java(TM) SE Runtime Environment(build 1.6.0_14-b08)

Java HotSpot(TM) Server VM(build 14.0-b16, mixed mode)

三、配置SSH免密码登录

同样以Ubuntu为例，假设用户名为u。

1)确认已经连接上互联网，输入命令

sudo apt-get install ssh

2)配置为可以无密码登录本机。

首先查看在u用户下是否存在.ssh文件夹(注意ssh前面有“.”，这是一个隐藏文件夹)，输入命令：

ls-a/home/u

一般来说，安装SSH时会自动在当前用户下创建这个隐藏文件夹，如果没有，可以手动创建一个。

接下来，输入命令：

ssh-keygen-t dsa-P''-f~/.ssh/id_dsa

解释一下，ssh-keygen代表生成密钥;-t(注意区分大小写)表示指定生成的密钥类型;dsa是dsa密钥认证的意思，即密钥类型;-P用于提供密语;-f指定生成的密钥文件。

在Ubuntu中，~代表当前用户文件夹，这里即/home/u。

这个命令会在.ssh文件夹下创建两个文件id_dsa及id_dsa.pub，这是SSH的一对私钥和公钥，类似于钥匙及锁，把id_dsa.pub(公钥)追加到授权的key里面去。

输入命令：

cat~/.ssh/id_dsa.pub>>~/.ssh/authorized_keys

这段话的意思是把公钥加到用于认证的公钥文件中，这里的authorized_keys是用于认证的公钥文件。

至此无密码登录本机已设置完毕。

3)验证SSH是否已安装成功，以及是否可以无密码登录本机。

输入命令：

ssh-version

显示结果：

OpenSSH_5.1p1 Debian-6ubuntu2, OpenSSL 0.9.8g 19 Oct 2007

Bad escape character'rsion'.

显示SSH已经安装成功了。

输入命令：

ssh localhost

会有类似如下显示：

The authenticity of host'localhost(::1)' can't be established.

RSA key fingerprint is 8b:c3:51:a5:2a:31:b7:74:06:9d:62:04:4f:84:f8:77.

Are you sure you want to continue connecting(yes/no)? yes

Warning: Permanently added'localhost'(RSA) to the list of known hosts.

Linux master 2.6.31-14-generic#48-Ubuntu SMP Fri Oct 16 14:04:26 UTC 2009 i686

To access official Ubuntu documentation, please visit:

Last login: Mon Oct 18 17:12:40 2010 from master

admin@Hadoop:~$

这说明已经安装成功，第一次登录时会询问你是否继续链接，输入yes即可进入。

实际上，在Hadoop的安装过程中，是否无密码登录是无关紧要的，但是如果不配置无密码登录，每次启动Hadoop，都需要输入密码以登录到每台机器的DataNode上，考虑到一般的Hadoop集群动辄数百台或上千台机器，因此一般来说都会配置SSH的无密码登录。

四、安装并运行Hadoop

介绍Hadoop的安装之前，先介绍一下Hadoop对各个节点的角色定义。

Hadoop分别从三个角度将主机划分为两种角色。第一，划分为master和slave，即主人与奴隶;第二，从HDFS的角度，将主机划分为NameNode和DataNode(在分布式文件系统中，目录的管理很重要，管理目录的就相当于主人，而NameNode就是目录管理者);第三，从MapReduce的角度，将主机划分为JobTracker和TaskTracker(一个job经常被划分为多个task，从这个角度不难理解它们之间的关系)。

Hadoop有官方发行版与cloudera版，其中cloudera版是Hadoop的商用版本，这里先介绍Hadoop官方发行版的安装方法。

Hadoop有三种运行方式：单节点方式、单机伪分布方式与集群方式。乍看之下，前两种方式并不能体现云计算的优势，在实际应用中并没有什么意义，但是在程序的测试与调试过程中，它们还是很有意义的。

可以通过以下地址获得Hadoop的官方发行版：

下载Hadoop-0.20.2.tar.gz并将其解压，这里会解压到用户目录下，一般为：/home/[你的用户名]/。

单节点方式配置：

安装单节点的Hadoop无须配置，在这种方式下，Hadoop被认为是一个单独的Java进程，这种方式经常用来调试。

伪分布式配置：

可以把伪分布式的Hadoop看做是只有一个节点的集群，在这个集群中，这个节点既是master，也是slave;既是NameNode也是DataNode;既是JobTracker，也是TaskTracker。

伪分布式的配置过程也很简单，只需要修改几个文件，如下所示。

进入conf文件夹，修改配置文件：

Hadoop-env.sh:

export JAVA_HOME=“JDK安装地址”

指定JDK的安装位置：

conf/core-site.xml:

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

</configuration>

这是Hadoop核心的配置文件，这里配置的是HDFS的地址和端口号。

conf/hdfs-site.xml:

<name>dfs.replication</name>

</property>

</configuration>

这是Hadoop中HDFS的配置，配置的备份方式默认为3，在单机版的Hadoop中，需要将其改为1。

conf/mapred-site.xml:

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>

这是Hadoop中MapReduce的配置文件，配置的是JobTracker的地址和端口。

需要注意的是，如果安装的是0.20之前的版本，那么只有一个配置文件，即为Hadoop-site.xml。

接下来，在启动Hadoop前，需格式化Hadoop的文件系统HDFS(这点与Windows是一样的，重新分区后的卷总是需要格式化的)。进入Hadoop文件夹，输入下面的命令：

bin/Hadoop NameNode-format

格式化文件系统，接下来启动Hadoop。

输入命令：

bin/start-all.sh（全部启动）

最后，验证Hadoop是否安装成功。

打开浏览器，分别输入网址：

(MapReduce的Web页面)

(HDFS的Web页面)

如果都能查看，说明Hadoop已经安装成功。

对于Hadoop来说，安装MapReduce及HDFS都是必须的，但是如果有必要，依然可以只启动HDFS(start-dfs.sh)或MapReduce(start-mapred.sh)。

阅读剩余

作者：云服务器测评

链接：https://www.i40.top/linux/42712.html

文章版权归作者所有，未经允许请勿转载。

THE END

linux启动ftp，linux安装ftp命令

<<上一篇

linux启动jar？linux jar包怎么运行

下一篇>>