ubuntu vsftpd 上传 Ubuntu16.04

大家好,今天来为大家分享ubuntu vsftpd 上传的一些知识点,和Ubuntu16.04的问题解析,大家要是都明白,那么可以忽略,如果不太清楚的话可以看看本篇文章,相信很大概率可以解决您的问题,接下来我们就一起来看看吧!

在Ubuntu里面搭建四个节点内存怎么分配

一、硬件配置以及操作系统:

所需要的机器以及操作系统:一台mac os笔记本、一台window笔记本(CPU双核四线程,内存8G),其中mac os用于远程操作,window笔记本装有虚拟机,虚拟出3个ubuntu18.04系统(配置CPU1个线程2个,内存1.5G,硬盘分配每个70G),对于mac os(可以用window机或者linux机)的配置没有要求

使用vm创建3个ubuntu18.04系统,一个主节点:master(NameNode)和两个从节点slave1(DataNode)和slave2(DataNode)

节点IP分配:主节点IP为:192.168.0.109、从节点1IP为:192.168.0.110、从节点2IP为:192.168.0.111

虚拟机的网络选择桥接模式与物理网络的网段相同,这样有助于远程连接。

master的主机名为:sunxj-hdm,slave1的主机名为:sunxj-hds1,slave2的主机名为:sunxj-hds2,如下图所示:

定义域名:sunxj-hdm.myhd.com(master),sunxj-hds1.myhd.com(slave1),sunxj-hds2.myhd.com(slave2)

配置hosts,将3台的hosts配置为:

192.168.0.109 sunxj-hdm.myhd.com192.168.0.110 sunxj-hds1.myhd.com
192.168.0.111 sunxj-hds2.myhd.com

如下图所示:

注意:不能放在最下边,从注释行开始往下是配置ipv6的,ip和域名之间必须是一个tab,且域名后不能有空格,否则是ping不通的,还有3个主机必须配置相同才能互ping。

7.然后使用如下命令进行重启网络

sudo/etc/init.d/networking restart

如下图所示:

8、然后通过ping sunxj-hds1.myhd.com查看是否可以ping的通,如果是通的则配置成功,如果不通需要在找原因了,如下图所示:

在master机ping slave1和slave2

在 slave1机ping master和slave2

在 slave2机ping master和slave1

二、节点需要安装的工具:

三个节点需要安装的工具为:vm-tool、gcc、net-tools、openssh-server、vsftpd、vim(用于ftp服务)

安装顺序:

(1)sudo apt install gcc

(2)安装vm-tool

(3)sudo apt install net-tools

(4)sudo apt install vim

(5)sudo apt install openssh-server(可以使用/etc/init.d/ssh start启动ssh)

(6)在安装好ssh后即可远程操作,在macos中打开终端进行ssh远程连接,如下图所示:

(7)安装ftp服务并配置vsftpd请看:

三、安装JDK环境

1、安装java,三台主机都需要安装,安装方法请看:

四、创建hadoop用户

1、在master节点上使用如下命令来创建hadoop用户

sudo adduser hadoop

如下图所示:

2、使用如命令把hadoop用户加入到hadoop用户组,前面一个hadoop是组名,后面一个hadoop是用户名

sudo usermod-a-G hadoop hadoop

如下图所示:

3、可以使用如下命令来查看结果

cat/etc/group|grep hadoop

如下图所示:

4、把hadoop用户赋予root权限,让他可以使用sudo命令,使用如下命令编辑

sudo vim/etc/sudoers

修改文件如下:

root ALL=(ALL) ALL hadoop ALL=(root) NOPASSWD:ALL

如下图所示:

修改前:

修改后:

5、用同样方法在slave1和slave2上创建hadoop用户。

五、建立ssh无密码登录本机

ssh生成密钥有rsa和dsa两种生成方式,默认情况下采用rsa方式。

1、首先用hadoop用户在master主机上创建ssh-key,这里我们采用rsa方式。使用如下命令(P是要大写的,后面跟"",表示无密码)

ssh-keygen-t rsa-P""

如下图所示:

2、直接回车即可,然后就会生成相应的信息,如下图所示:

3、回车后会在~/.ssh/下生成两个文件:id_rsa和id_rsa.pub这两个文件是成对出现的,进入到该目录查看,如下图所示:

4、然后分别在slave1和slave2用同样的方法生成,然后分别用

scp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave1_id_rsa.pubscp id_rsa.pub hadoop@192.168.0.109:/home/sunftp/ftpdir/slave2_id_rsa.pub

将slave1和slave2的文件上传到master上,如下图所示:

5、使用如下指令,将上传到master上的slave1_id_rsa.pub和slave2_id_rsa.pub文件移动到~/.ssh/目录

sudo mv/home/sunftp/ftpdir/slave1_id_rsa.pub slave1_id_rsa.pubsudo mv/home/sunftp/ftpdir/slave2_id_rsa.pub slave2_id_rsa.pub

如下图所示:

6、将id_rsa.pub、slave1_id_rsa.pub、slave2_id_rsa.pub追加到authorized_keys授权文件中,开始是没有authorized_keys文件的,只需要执行如下命令即可:

cat*.pub>>authorized_keys

如下图所示:

7、然后可以通过:ssh localhost测试本机无密码登录,如下图所示:

8、将master上的公钥拷贝到slave1和slave2上,使其master无密码登录slave1和slave2,首先将authorized_keys文件通过scp上传到slave1和slave2的/home/sunftp/ftpdir/目录中,使用如下命令来上传

scp authorized_keys hadoop@192.168.0.110:/home/sunftp/ftpdirscp authorized_keys hadoop@192.168.0.111:/home/sunftp/ftpdir

,如下图所示:

9、此时在slave1和slave2上的/home/sunftp/ftpdir/目录中存在authorized_keys文件文件,如下图所示:

10、分别在两台slave机器上执行1~3部,然后如下命令将公钥拷贝到~/.ssh/目录中

cp/home/sunftp/ftpdir/authorized_keys~/.ssh/authorized_keys

如下图所示:

11、使用:sudo chmod 664 authorized_keys修改authorized_keys的权限,如下图所示:

12、然后在mstar上无密码登录slave1和slave2,如下图所示:

13、然后在slave1上无密码登录mstar和slave2,如下图所示:

14、然后在slave2上无密码登录slave1和mstar,如下图所示:

注意:如果无法登录请查看/home/下的用户权限是否是755,如果不是则无法登录的,我的slave1就是将/home/sunxj的权限设置为:777,只需要将sunxj设置为755即可,如下图所示:

12、到此就可以在master上无密码登录slave1和slave2了。

六、安装hadoop

1、首先从下载,如下版本:

2、这里选择hadoop2.7.7的Binary版本。

3、使用scp命令将下载好的hadoop上传到master,(此时的用户名也可以使用其他的用户配置)如下图所示:

4、使用如下命令解压

tar-xzvf hadoop-2.7.7.tar.gz将hadoop-2.7.7.tar.gz

如下图所示:

5、将hadoop-2.7.7移动到/usr/目录,如下图所示:

6、查看hadoop的目录,如下图所示:

7、在hadoop-2.7.7目录中一个hdfs目录和三个子目录,如

hadoop-2.7.3/hdfs

hadoop-2.7.3/hdfs/tmp

hadoop-2.7.3/hdfs/name

hadoop-2.7.3/hdfs/data

8、在hadoop-2.7.7/etc/目录中查看需要配置的文件有:

core-site.xml

hadoop-env.sh

hdfs-site.xml

mapred-site.xml.template

yarn-env.sh

yarn-site.xml

mapred-env.sh

slaves

如下图所示:

9、首先配置core-site.xml文件,使用如下命令打开

sudo vim etc/hadoop/core-site.xml

然后在<configuration></configuration>中如下配置是读写sequence file的 buffer size,可减少 I/O次数。在大型的 Hadoop cluster,建议可设定为 65536到 131072,默认值 4096.按照教程配置了131072:

<property><name>hadoop.tmp.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/tmp</value><description>A base for other temporary directories.</description></property><property><name>io.file.buffer.size</name><value>131072</value></property><property><name>fs.defaultFS</name><value>hdfs://sunxj-hdm.myhd.com:9000</value></property>

注意:第一个属性中的value和我们之前创建的/usr/hadoop-2.7.7/hdfs/tmp路径要一致。

如下图所示:

属性说明:

参数

属性值

解释

fs.defaultFS

NameNode URI

hdfs://host:port/

io.file.buffer.size

131072

SequenceFiles文件中.读写缓存size设定

fs.defaultFS//为masterIP地址,其实也可以使用主机名或者域名,这个属性用来指定namenode的hdfs协议的文件系统通信地址,可以指定一个主机+端口,也可以指定为一个namenode服务(这个服务内部可以有多台namenode实现ha的namenode服务)o.file.buffer.size//该属性值单位为KB,131072KB即为默认的64M,这个属性用来执行文件IO缓冲区的大小hadoop.tmp.dir//指定hadoop临时目录,前面用file:表示是本地目录。有的教程上直接使用/usr/local,我估计不加file:应该也可以。hadoop在运行过程中肯定会有临时文件或缓冲之类的,必然需要一个临时目录来存放,这里就是指定这个的。当然这个目录前面我们已经创建好了。

<!--也有人使用zookeeper,因此,需要在hadoop核心配置文件core-site.xml中加入zookeeper的配置:--><!--指定zookeeper地址。zookeeper可以感知datanode工作状态,并且提供一些高可用性的特性。暂时不了解zookeeper,后续再说。先不加入这个配置了暂时。--><property><name>ha.zookeeper.quorum</name><value>dellserver01:2181,dellserver02:2181,dellserver03:2181,dellserver04:2181,dellserver05:2181</value></property>

10、配置 hadoop-env.sh文件,用于配置jdk目录,使用如下命令打开

sudo vim etc/hadoop/hadoop-env.sh

然后将export JAVA_HOME=${JAVA_HOME}注释掉配置成具体的路径:export JAVA_HOME=/usr/jdk1.8.0_191,否则在运行时会提示找不到JAVA_HOME,如下图所示:

11、在mapred-env.sh加入JAVA_HOME,如下图所示:

12、在yarn-env.sh加入JAVA_HOME,如下图所示:

13、配置hdfs-site.xml,使用如下命令打开文件

sudo vim etc/hadoop/hdfs-site.xml

然后在<configuration></configuration>中加入以下代码:

<property><name>dfs.replication</name><value>2</value></property><property><name>dfs.namenode.name.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/name</value><final>true</final></property><property><name>dfs.datanode.data.dir</name><value>file:/usr/hadoop-2.7.7/hdfs/data</value><final>true</final></property><property><name>dfs.namenode.secondary.http-address</name><value>sunxj-hdm.myhd.com:9001</value></property><property><name>dfs.webhdfs.enabled</name><value>true</value></property><property><name>dfs.permissions</name><value>false</value></property>

注意:其中第二个dfs.namenode.name.dir和dfs.datanode.data.dir的value和之前创建的/hdfs/name和/hdfs/data路径一致;由于有两个从主机slave1、slave2,所以dfs.replication设置为2

如下图所示:

属性说明:

配置NameNode

————————————————

版权声明:本文为CSDN博主「sxjlinux」的原创文章,遵循 CC 4.0 BY-SA版权协议,转载请附上原文出处链接及本声明。

原文链接:

windows主机和ubuntu互传文件的4种方法

在我的 Ubuntu系统安装在 VMware虚拟机中时,经常需要与 Windows主机之间互传文件。下面是实现互传文件的四种常见方法:

第一种方法是通过共享文件夹。在虚拟机中开启共享文件夹功能。虚拟机中的 Ubuntu需要开机状态,然后设置共享文件夹,选择始终启动,并添加与主机 Windows共享的路径。这样设置后,Ubuntu中的共享文件夹路径通常是/mnt/hgfs/winshare。请注意,winshare这个目录是你在 Windows主机创建的共享目录,你创建时的命名可能不同。这种方法的缺点是 Ubuntu中的特殊文件,如符号链接文件,在 Windows共享文件夹下可能会出现错误,但如果使用 Samba共享文件夹则不会。

第二种方法是使用 FileZilla工具进行文件互传。FileZilla是基于 FTP协议的免费工具,Ubuntu作为服务器,FileZilla工具作为客户端。首先,在 Ubuntu终端执行命令安装 FTP服务,然后检查/etc/vsftpd.conf配置文件,确保在 28和 31行没有被注释。修改完后重启 FTP服务。接下来,Windows上安装并配置 FileZilla客户端,设置连接参数,上传或下载文件。此外,解决 FileZilla显示的 Ubuntu文件时间比实际时间多8小时的问题,可以通过调整服务器时间解决。

第三种方法是通过 Mobaxterm终端进行 SSH远程登录 Ubuntu互传文件。使用 Mobaxterm远程登录后,可以直接上传和下载文件,但其效率可能不如使用 FileZilla工具。

最后一种方法是使用 samba方式互传文件。samba通过网络实现 Windows和 Ubuntu之间的文件互传,前提是两台机器之间可以互相 ping通。首先,Ubuntu中安装并配置 samba服务,包括创建共享目录、配置权限、添加用户并修改配置文件。配置完成后,Windows中可以通过网络访问 Ubuntu的 samba共享目录,并映射到本地驱动器以方便使用。

推荐使用 FileZilla工具和 samba服务器这两种方法进行文件互传。

Linux-在Ubuntu搭建ftp服务器

在Ubuntu 22.04上搭建FTP服务器的具体步骤如下:

1.首先,确保vsftpd服务已安装并自动启动。可通过命令"systemctl status vsftpd"检查服务状态。

2.配置vsftpd服务器,使用编辑命令"sudo nano/etc/vsftpd.conf"打开配置文件。

3.在配置文件中,设置"anonymous_enable=YES"和"local_enable=YES"以允许匿名用户和Ubuntu本地用户登录FTP服务器。

4.为限制FTP用户访问其他目录,取消"chroot_local_user=YES"的注释,并在文件末尾添加"chroot_local_user=no"。

5.为允许上传和删除操作,取消"write_enable=YES"的注释。

6.设置匿名用户的默认目录,增加"anon_root=/home/ailsonjack/share"。

7.在/home/ailsonjack文件夹中创建名为"share"的子文件夹,并在其中创建"ftp"子文件夹。使用命令"sudo chmod 777/home/ailsonjack/share/ftp"改变"ftp"文件夹权限。

8.保存并退出配置文件编辑,使用命令"sudo systemctl restart vsftpd"使配置生效。

9.为了确保FTP服务器正常工作,可以暂时关闭防火墙。使用命令"sudo systemctl stop firewalld"关闭防火墙,然后使用"sudo systemctl status firewalld"检查防火墙状态。

至此,Ubuntu服务器上的FTP服务器搭建完成。测试FTP服务是否正常运行,确保匿名用户和本地用户能成功上传和删除文件。关注博主获取更多Linux相关教程。

阅读剩余
THE END