centos7 hbase centos9出来了吗
大家好,今天小编来为大家解答以下的问题,关于centos7 hbase,centos9出来了吗这个很多人还不知道,现在让我们一起来看看吧!
(超详细)Hbase集群安装
本文详细介绍了Hbase集群的安装过程,主要分为环境准备、Zookeeper安装配置和Hbase安装配置三个阶段。
在环境准备阶段,首先确认服务器环境为CentOS7,Hadoop版本为3.1.3,HBase版本为2.2.3,Zookeeper版本为3.5.7,JDK版本为1.8。
接着进行Zookeeper的安装配置。Zookeeper通过scp命令分发至slave服务器,确保所有服务器配置一致。在master服务器上配置zoo.cfg文件,同时修改myid文件,然后启动Zookeeper集群并验证启动状态。
进入Hbase安装配置阶段,首先将Hbase上传至master服务器,并配置环境变量。在/etc/profile文件中添加Hbase相关环境变量,确保变量在所有服务器上生效。接着修改hbase-env.sh和hbase-site.xml文件,并依据Hadoop的datanode节点调整regionservers配置。将Hbase通过scp命令分发至slave服务器,启动Hbase集群,通过jps命令验证集群启动成功。
总结而言,Hbase集群的安装主要涉及环境准备、Zookeeper的配置以及Hbase的配置与分发。各阶段操作细致且紧密相关,确保了集群的稳定运行。在实际操作中,需注意每一步的细节调整,以确保安装过程的顺利进行。
关于linux学习路线的问题 请教前辈
很多同学接触Linux不多,对Linux平台的开发更是一无所知。而现在的趋势越来越表明,作为一个优秀的软件开发人员,或计算机IT行业从业人员,掌握Linux是一种很重要的谋生资源与手段。下来我将会结合自己的几年的个人开发经验,及对 Linux,更是类UNIX系统,及开源软件文化,谈谈Linux的学习方法与学习中应该注意的一些事。
就如同刚才说的,很多同学以前可能连Linux是什么都不知道,对UNIX更是一无所知。所以我们从最基础的讲起,对于Linux及UNIX的历史我们不做多谈,直接进入入门的学习。
Linux入门是很简单的,问题是你是否有耐心,是否爱折腾,是否不排斥重装一类的大修。没折腾可以说是学不好Linux的,鸟哥说过,要真正了解Linux的分区机制,对LVM使用相当熟练,没有20次以上的Linux装机经验是积累不起来的,所以一定不要怕折腾。
由于大家之前都使用Windows,所以我也尽可能照顾这些“菜鸟”。我的推荐,如果你第一次接触Linux,那么首先在虚拟机中尝试它。虚拟机我推荐Virtual Box,我并不主张使用VM,原因是VM是闭源的,并且是收费的,我不希望推动盗版。当然如果你的Money足够多,可以尝试VM,但我要说的是即使是VM,不一定就一定好。付费的软件不一定好。首先,Virtual Box很小巧,Windows平台下安装包在80MB左右,而VM动辄600MB,虽然功能强大,但资源消耗也多,何况你的需求Virtual Box完全能够满足。所以,还是自己选。如何使用虚拟机,是你的事,这个我不教你,因为很简单,不会的话Google或Baidu都可以,英文好的可以直接看官方文档。
现在介绍Linux发行版的知识。正如你所见,Linux发行版并非Linux,Linux仅是指操作系统的内核,作为科班出生的你不要让我解释,我也没时间。我推荐的发行版如下:
UBUNTU适合纯菜鸟,追求稳定的官方支持,对系统稳定性要求较弱,喜欢最新应用,相对来说不太喜欢折腾的开发者。
Debian,相对UBUNTU难很多的发行版,突出特点是稳定与容易使用的包管理系统,缺点是企业支持不足,为社区开发驱动。
Arch,追逐时尚的开发者的首选,优点是包更新相当快,无缝升级,一次安装基本可以一直运作下去,没有如UBUNTU那样的版本概念,说的专业点叫滚动升级,保持你的系统一定是最新的。缺点显然易见,不稳定。同时安装配置相对Debian再麻烦点。
Gentoo,相对Arch再难点,考验使用者的综合水平,从系统安装到微调,内核编译都亲历亲为,是高手及黑客显示自己技术手段,按需配置符合自己要求的系统的首选。
Slackware与Gentoo类似。
CentOS,社区维护的RedHat的复刻版本,完全使用RedHat的源码重新编译生成,与RedHat的兼容性在理论上来说是最好的。如果你专注于Linux服务器,如网络管理,架站,那么CentOS是你的选择。
LFS,终极黑客显摆工具,完全从源代码安装,编译系统。安装前你得到的只有一份文档,你要做的就是照文档你的说明,一步步,一条条命令,一个个软件包的去构建你的Linux,完全由你自己控制,想要什么就是什么。如果你做出了LFS,证明你的Linux功底已经相当不错,如果你能拿LFS文档活学活用,再将Linux从源代码开始移植到嵌入式系统,我敢说中国的企业你可以混的很好。
你得挑一个适合你的系统,然后在虚拟机安装它,开始使用它。如果你想快速学会Linux,我有一个建议就是忘记图形界面,不要想图形界面能不能提供你问题的答案,而是满世界的去找,去问,如何用命令行解决你的问题。在这个过程中,你最好能将Linux的命令掌握的不错,起码常用的命令得知道,同时建立了自己的知识库,里面是你积累的各项知识。
再下个阶段,你需要学习的是Linux平台的C/C++开发,同时还有Bash脚本编程,如果你对Java兴趣很深还有Java。同样,建议你抛弃掉图形界面的IDE,从VIM开始,为什么是VIM,而不是Emacs,我无意挑起编辑器大战,但我觉得VIM适合初学者,适合手比较笨,脑袋比较慢的开发者。Emacs的键位太多,太复杂,我很畏惧。然后是GCC,Make,Eclipse(Java,C++或者)。虽然将C++列在了Eclipse中,但我并不推荐用IDE开发C++,因为这不是Linux的文化,容易让你忽略一些你应该注意的问题。IDE让你变懒,懒得跟猪一样。如果你对程序调试,测试工作很感兴趣,GDB也得学的很好,如果不是GDB也是必修课。这是开发的第一步,注意我并没有提过一句Linux系统API的内容,这个阶段也不要关心这个。你要做的就是积累经验,在Linux平台的开发经验。我推荐的书如下:C语言程序设计,谭浩强的也可以。C语言,白皮书当然更好。C++推荐C++ Primer Plus,Java我不喜欢,就不推荐了。工具方面推荐VIM的官方手册,GCC中文文档,GDB中文文档,GNU开源软件开发指导(电子书),汇编语言程序设计(让你对库,链接,内嵌汇编,编译器优化选项有初步了解,不必深度)。
如果你这个阶段过不了就不必往下做了,这是底线,最基础的基础,否则离开,不要霍霍Linux开发。不专业的Linux开发者作出的程序是与Linux文化或UNIX文化相背的,程序是走不远的,不可能像Bash,VIM这些神品一样。所以做不好干脆离开。
接下来进入Linux系统编程,不二选择,APUE,UNIX环境高级编程,一遍一遍的看,看10遍都嫌少,如果你可以在大学将这本书翻烂,里面的内容都实践过,有作品,你口头表达能力够强,你可以在面试时说服所有的考官。(可能有点夸张,但APUE绝对是圣经一般的读物,即使是Windows程序员也从其中汲取养分,Google创始人的案头书籍,扎尔伯克的床头读物。)
这本书看完后你会对Linux系统编程有相当的了解,知道Linux与Windows平台间开发的差异在哪?它们的优缺点在哪?我的总结如下:做Windows平台开发,很苦,微软的系统API总在扩容,想使用最新潮,最高效的功能,最适合当前流行系统的功能你必须时刻学习。Linux不是,Linux系统的核心API就100来个,记忆力好完全可以背下来。而且经久不变,为什么不变,因为要同UNIX兼容,符合POSIX标准。所以Linux平台的开发大多是专注于底层的或服务器编程。这是其优点,当然图形是Linux的软肋,但我站在一个开发者的角度,我无所谓,因为命令行我也可以适应,如果有更好的图形界面我就当作恩赐吧。另外,Windows闭源,系统做了什么你更本不知道,永远被微软牵着鼻子跑,想想如果微软说Win8不支持QQ,那腾讯不得哭死。而Linux完全开源,你不喜欢,可以自己改,只要你技术够。另外,Windows虽然使用的人多,但使用场合单一,专注与桌面。而Linux在各个方面都有发展,尤其在云计算,服务器软件,嵌入式领域,企业级应用上有广大前景,而且兼容性一流,由于支持POSIX可以无缝的运行在UNIX系统之上,不管是苹果的Mac还是IBM的AS400系列,都是完全支持的。另外,Linux的开发环境支持也绝对是一流的,不管是C/C++,Java,Bash,Python,PHP,Javascript,。。。。。。就连C#也支持。而微软除Visual Stdio套件以外,都不怎么友好,不是吗?
如果你看完APUE的感触有很多,希望验证你的某些想法或经验,推荐UNIX程序设计艺术,世界顶级黑客将同你分享他的看法。
现在是时候做分流了。大体上我分为四个方向:网络,图形,嵌入式,设备驱动。
如果选择网络,再细分,我对其他的不是他熟悉,只说服务器软件编写及高性能的并发程序编写吧。相对来说这是网络编程中技术含量最高的,也是底层的。需要很多的经验,看很多的书,做很多的项目。
我的看法是以下面的顺序来看书:
APUE再深读–尤其是进程,线程,IPC,套接字
多核程序设计- Pthread一定得吃透了,你很NB
UNIX网络编程–卷一,卷二
TCP/IP网络详解–卷一再看上面两本书时就该看了
5.TCP/IP网络详解–卷二我觉得看到卷二就差不多了,当然卷三看了更好,努力,争取看了
6.Lighttpd源代码-这个服务器也很有名了
7.Nginx源代码–相较于Apache,Nginx的源码较少,如果能看个大致,很NB。看源代码主要是要学习里面的套接字编程及并发控制,想想都激动。如果你有这些本事,可以试着往暴雪投简历,为他们写服务器后台,想一想全球的魔兽都运行在你的服务器软件上。
Linux内核 TCP/IP协议栈–深入了解TCP/IP的实现
如果你还喜欢驱动程序设计,可以看看更底层的协议,如链路层的,写什么路由器,网卡,网络设备的驱动及嵌入式系统软件应该也不成问题了。
当然一般的网络公司,就算百度级别的也该毫不犹豫的雇用你。只是看后面这些书需要时间与经验,所以35岁以前办到吧!跳槽到给你未来的地方!
图形方向,我觉得图形方向也是很有前途的,以下几个方面。
Opengl的工业及游戏开发,国外较成熟。
影视动画特效,如皮克斯,也是国外较成熟。
GPU计算技术,可以应用在浏览器网页渲染上,GPU计算资源利用上,由于开源的原因,有很多的文档程序可以参考。如果能进火狐开发,或google做浏览器开发,应该会很好。
嵌入式方向:嵌入式方向没说的,Linux很重要。
掌握多个架构,不仅X86的,ARM的,单片机什么的也必须得懂。硬件不懂我预见你会死在半路上,我也想走嵌入式方向,但我觉得就学校教授嵌入式的方法,我连学电子的那帮学生都竞争不过。奉劝大家,一定得懂硬件再去做,如果走到嵌入式应用开发,只能祝你好运,不要碰上像Nokia,Hp这样的公司,否则你会很惨的。
驱动程序设计:软件开发周期是很长的,硬件不同,很快。每个月诞生那么多的新硬件,如何让他们在Linux上工作起来,这是你的工作。由于Linux的兼容性很好,如果不是太低层的驱动,基本C语言就可以搞定,系统架构的影响不大,因为有系统支持,你可能做些许更改就可以在ARM上使用PC的硬件了,所以做硬件驱动开发不像嵌入式,对硬件知识的要求很高。可以从事的方向也很多,如家电啊,特别是如索尼,日立,希捷,富士康这样的厂子,很稀缺的。
LDD– Linux驱动程序设计与内核编程的基础读物
深入理解Linux内核–进阶的
Linux源代码–永无止境的
当然你还的看个方面的书,如网络啊什么的。
Atlas系列-编译部署-Atlas2.1.0独立部署
本文将为您详细介绍如何独立部署 Atlas 2.1.0版本,依赖组件包括 solr、hbase、zookeeper、hive、hadoop、kafka。我们将采用 Docker容器与 Linux环境进行部署。如果您在 Atlas的编译部署过程中遇到问题,本指南将提供解决方案。
部署流程如下:
部署环境
1. Linux环境:若无 Linux环境,可通过 Docker构建。如已安装 Linux,推荐使用 CentOS镜像,本文作者最初在 Windows环境下进行部署,并制作了一个 CentOS镜像。构建步骤如下:
1.拉取镜像
2.运行容器
2. Zookeeper环境搭建:使用 Docker方式搭建 Zookeeper,配置步骤包括:
1.拉取 Docker镜像
2.运行容器
3. Hadoop环境搭建:同样采用 Docker方式搭建 Hadoop,步骤如下:
1.拉取镜像
2.建立 Hadoop用的内部网络
3.创建并启动 Master容器,映射端口,如 10000端口用于 Hiveserver2,以便后续客户端通过 beeline连接 Hive
4.创建 Slave容器
5.修改 hosts文件,将 Master和 Slave的 IP地址映射到容器内部
6.启动 Hadoop,格式化 HDFS,并启动全部服务
7.访问 Web查看服务状态,如 hdfs: localhost:9870和 yarn: localhost:8088
4.部署 Hive:由于 Hive镜像与 Hadoop镜像整合,使用已启动的 Hadoop镜像进行部署:
1.进入 Master容器
2.修改配置文件,添加相关环境变量
3.执行源命令生效
4.完成数据库配置,确保与 Hive配置文件中的分隔符一致,并关闭 SSL验证
5.上传 MySQL驱动到 Hive的 lib目录,调整 jar包配置,确保 slf4j和 guava包版本一致
6.初始化元数据库,完成 Hive的安装与启动
7.修改 Hadoop权限配置
8.启动 Hiveserver2
9. Hbase搭建:由于使用 Docker遇到问题,改为在容器外搭建 Hbase环境。步骤包括:
1.拉取容器
2.创建并运行容器
3.进入容器
4.修改 Hbase配置
5.启动 Hbase
6.访问 Web界面地址 localhost:16010
10. Solr搭建:使用 Docker方式搭建 Solr,步骤如下:
1.拉取镜像
2.运行容器
3.创建 collection
4.访问 Web界面地址 localhost:8983
11. Atlas独立部署:Atlas 2.1.0版本独立部署依赖外部组件,不同于集成部署。步骤包括:
1.从 Apache Atlas下载源码,如 apache-atlas-2.1.0-server.tar.gz
2.使用 Docker镜像环境进行编译,选择之前构建的基础环境
3.将源码复制到容器内
4.修改 pom.xml文件以适应环境依赖
5.执行编译命令
6.解压/distro/target/apache-atlas-2.1.0-bin.tar.gz文件
7.进入 bin目录,启动应用
至此,Atlas 2.1.0版本独立部署完成,可访问 localhost:21000查看部署结果。