hadoop ubuntu(Ubuntu centos)

大家好,感谢邀请,今天来为大家分享一下hadoop ubuntu的问题,以及和Ubuntu centos的一些困惑,大家要是还不太明白的话,也没有关系,因为接下来将为大家分享,希望可以帮助到大家,解决大家的问题,下面就开始吧!

如何在ubuntu上安装hadoop

1、创建hadoop管理员帐号

直接在终端执行如下命令行:

1 sudo adduser hadoop

然后要求你设置hadoop帐户密码,这个命令是添加一个名为hadoop的标准帐户,我们需要的是管理员帐号

可以直接在图形界面下修改hadoop权限,将鼠标点击右上角的一个人头处,浮现列表,点击“用户账户”,解锁,然后更改为管理员权限

2、安装ssh服务

ssh可以实现远程登录和管理,详细情况请google百度

ubuntu默认并没有安装ssh服务,如果通过ssh链接ubuntu,需要自己手动安装ssh-server。命令行:

1 sudo apt-get install ssh openssh-server

3、ssh无密码验证登录

创建ssh-key,这里我们采用rsa方式,命令行如下:

1 ssh-keygen-t rsa-P""

出现一个图形,出现的图形就是密码,不用管它

1 cat~/.ssh/id_rsa.pub>> authorized_keys

然后即可无密码验证登录了,如下:

1 ssh localhost

退出命令行为:

exit

4、解压hadoop源码包

终端下进入hadoop源码包所在目录,使用复制命令把hadoop源码包复制到/home/hadoop下

1 cp hadoop-1.2.1.tar.gz/home/hadoop

然后解压,命令行如下

tar-xzvf*.tag.gz

5、配置hadoop的hadoop/conf下的hadoop-env.sh,core-site.xml,mapred-site.xml,hdfs-site.xml

配置hadoop-1.2.1/conf/hadoop-env.sh,命令行:

1 gedit/home/hadoop/hadoop-1.2.1/conf/hadoop-env.sh

ctrl+ f搜索到JAVA_HOME

把前面的#去掉,加上本系统jdk路径,保存退出

配置hadoop-1.2.1/conf/core-site.xml,命令行:

gedit/home/hadoop/hadoop-1.2.1/conf/core-site.xml

在hadoop新建hadoop_tmp目录,

将如下<configuration></configuration>之间的添加进入,保存退出

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file.-->

<configuration>

<property>

<name>fs.default.name</name>

<value>hdfs://localhost:9000</value>

</property>

<property>

<name>hadoop.tmp.dir</name>

<value>/home/hadoop/hadoop-1.2.1/hadoop_tmp</value>

<description>A base for other temporary directories.</description>

</property>

</configuration>

配置hadoop-1.2.1/conf/mapre-site.xml,命令行:

1 gedit/home/hadoop/hadoop-1.2.1/conf/mapre-site.xml.xml

将如下<configuration></configuration>之间的添加进入,保存退出

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file.-->

<configuration>

<property>

<name>mapred.job.tracker</name>

<value>localhost:9001</value>

</property>

</configuration>

配置hadoop-1.2.1/conf/hdfs-site.xml,命令行:

1 gedit/home/hadoop/hadoop-1.2.1/conf/hdfs-site.xml

将如下<configuration></configuration>之间的添加进入,保存退出

<?xml version="1.0"?>

<?xml-stylesheet type="text/xsl" href="configuration.xsl"?>

<!-- Put site-specific property overrides in this file.-->

<configuration>

<property>

<name>dfs.replication</name>

<value>1</value>

</property>

</configuration>

至此hadoop的安装配置已经完毕,稍后的是hadoop的初次运行操作

6、格式化hdfs文件系统

进入hadoop-1.2.1

/bin/hadoop namenode-format

7、启动hadoop服务

/bin/start-all.sh

出现如下画面

jps

jps是查看java虚拟机运行的java线程

然后出现如下画面

不计jps,有五个hadoop相关线程,恭喜你,hadoop安装配置成功,运行正常。

然后可以退出hadoop。,以后再用时再启动,导入数据

搭建成功之后重新开启UBUNTU,怎么启动hadoop

终于成功搭建完毕Hadoop完全分布式环境。其中耽误时间最长的是datanode无法启动。其实是自己的低级错误。

3台虚拟机,一台master,两台salve。

第一次错误,查看日志,是hdfs-site.xml文件配置拼写错误。

第二次到第N次都是 slave无法连接到master,以下是我检查的方向:

1.master和 slave的防火墙确认是关闭的。

2.再次检查配置文件:fs.default.name和mapred.job.tracker的value值 master和ip都试试。

3.再第一次发生错误修改完毕后,format namenode时无法成功,这是因为配置的dfs.name.dir和dfs.data.dir文件目录没有删除,需要手动删除master和slave的相关文件夹。

4.ssh连接。配置完ssh无密码登陆之后,需要连接一次(第一次连接会让你输入yes?),这正是我花费时间最长的地方。master连接slave,slave也要连接master。之后再format,启动hadoop,jps查看进程成功启动。

从这次搭建环境中,学会了试着分析日志找到问题,同时通过一步步排除可能的原因得到最后的原因。

相关阅读:

Ubuntu 13.04上搭建Hadoop环境

Ubuntu 12.10+Hadoop 1.2.1版本集群配置

Ubuntu上搭建Hadoop环境(单机模式+伪分布模式)

Ubuntu下Hadoop环境的配置

单机版搭建Hadoop环境图文教程详解

搭建Hadoop环境(在Winodws环境下用虚拟机虚拟两个Ubuntu系统进行搭建)

windows不能执行hadoop吗为什么非要用linux执行hadoop

windows不能执行hadoop吗为什么非要用linux执行hadoop

hadoop 2.0还是2.20之后有相容windows的版本,然而大部分都是部署在linux上的。记得刚出win版本的那天,我兴冲冲的下载部署了一整天还是遇到各种问题没能部署成功。至今为止还没见到有哪个公司把hadoop生产环境部署在windows上的。

为什么hadoop job执行的时候其他的执行绪不能执行

首先,一个job具体启动多少个map,是由你配置的inputformat来决定的。inputformat在分配任务之前会对输入进行切片。最终启动的map数目,就是切片的结果数目。具体来看一、如果使用是自定义的inputformat,那么启动多少个map需要获取mapreduce的执行资讯,比如执行状态,map,reduce的执行进度. hadoop 50030埠提供web ui服务,没找到提供json或者xml的服务方式.于是,查询hadoop 50030的载入

linux为什么不能执行windows程式

首先系统是不一样的。windows系统是避源的,linux系统是开源的,Linux系统一般是命令列的,而windows系统是偏向于图形化的。就像苹果手机是不能允许安卓手机的软体的。但是Linux系统在不多的强大。不断的创新,图形化已经做的非常好了,软体也越来越丰富了。在Linux上面执行windows程式变得没有那么困难了--wine。

可以尝试使用wine来执行windows系统。Linux的学习是一个过程,需要不断的去探索。更多的知识建议参考《Linux就该这样学》,加油吧,不断探索Linux的奥秘吧

python执行hadoop用到什么库

# map:对序列的每个元素进行一个指定的操作>>> lst= map(lambda x:"%02d"% x, range(10))>>> lst ['00','01','02','03','04','05','06','07','08','09']>>># reduce:对序列每个元素进行一种“累进”操作>>> rst= reduce(lambd...

怎么检视hadoop能不能执行

看各个节点的程序,是不是都起来了,通过web查各个节点的状态,是不是都正常

一般都是上传一个档案,看看成不成功

然后执行那个wordcount的,统计单词的数量,如果执行都没有问题,就OK了

windows下的exe为什么在linux下不能执行

linux下需要安装wine来相容windows下的程式。

一.安装Wine

Wine适应于所有流行的UNIX作业系统,包括Ubuntu、Debian、Red Hat、SUSE、Mandriva、FreeBSD、Solaris和Mac OS X。

在Ubuntu上:

一、通过Unbuntu软体中心安装

1、开启Applications(应用程式)>Ubuntu Sofare Center(Unbuntu软体中心),开启Ubuntu软体中心。

然后点选Edit(编辑)>Sofare Sources(软体源)。选择Other Sofare(其他软体)选项卡,点选Add(新增)。然后输入下列apt行:ppa:ubuntu-wine/ppa

2、Allsofares右侧选单中选择“PPA for Ubuntu Wine Team”,然后选择Microsoft Windows Compatibility Layer(Development files)– wine1.3-dev。点选Install(安装)。这会安装最新的Wine软体包,包括开发库。

提示:解除安装现有的Wine软体包,以确保最大的相容性。另外,如果想干净安装,可以删除Wine使用者目录,为此可以从主目录中使用命令rm-r-v.wine。

二、通过终端安装

终端输入[如何在Ubuntu14.04中安装和执行Windows应用程式]

sudo add-apt-repository ppa:ubuntu-wine/ppa

sudo apt-get update

apt-get install wine1.7

wine--version

[Wine完全解除安装]

二、安装Wine支援包

现在,需要安装非开源(但免费)的支援包。这包括微软Core Fonts、Visual C++执行时环境等软体包。

安装Cabextract:

需要该软体包来解压缩微软.cab档案。

$ sudo apt-get install cabextract

在Windows上执行Hadoop,配置好java,cygwin,hadoop之后,要怎么做

启动cygwin就可以操作hadoop了。比如start-all.sh、jps、s-all.sh等

游戏的执行和机器的CPU,记忆体,独立显示核心等硬体配置有直接的关系,另外也和系统,驱动,其他软体等也有联络。当前,是否可以玩一个游戏,首先需要检视游戏执行的配置要求和机器的配置要求做一个对比,检视机器的配置是否符合。如果可以满足游戏的最低执行需求,则可以支援。"

阅读剩余
THE END