linux安装Hadoop、hbase
目录
(1)首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 :
(2)切换账户,使用Hadoop账户登录登录以后需要更新一下apt
(3)执行初始化(只需初始化一次不然namenode后面开启不了)
一、创建hadoop用户
(1)首先按 ctrl+alt+t 打开终端窗口,输入如下命令创建新用户 :
$ sudo useradd –m hadoop –s /bin/bash
接着使用如下命令设置密码,可简单设置为 hadoop
$ sudo passwd hadoop
可为 hadoop 用户增加管理员权限,方便部署,避免一些对新手来说比较棘手的权限问题:
$ sudo adduser hadoop sudo
(2)切换账户,使用Hadoop账户登录登录以后需要更新一下apt
$sudo apt-get update
使用Ubuntu操作系统中可以用vim编译器来建立文件和修改文件,需要安装一下
$sudo apt-get install vim
(3)安装好ssh服务
$sudo apt-get install ssh openssh-server
此时登入需要密码可以通过然后输入yes并通过密码登入
$ssh localhost
创建ssh-key,将密钥加入授权,此操作前先退出ssh登录
$exit
$cd ~/.ssh/
$ssh-keygen -t rsa
$cat ./id_rsa.pub >> ./authorized_keys //一直回车
然后即可无密码验证登录了,如下(如果进行了下面操作要记得exit退出要不然下面会出问题):
$ssh localhost
二、安装java
1.下载jdk
wget https://repo.huaweicloud.com/java/jdk/8u151-b12/jdk-8u151-linux-x64.tar.gz
2.为jdk创建目录
$cd /usr/lib
$sudo mkdir jvm //用来存放jdk
3.为jdk压缩,jdk的路径在你下载中我移动到了主目录下
$ cd ~
$ tar -zxf jdk-8u151-linux-x64.tar.gz -C /usr/lib/jvm
4.配置环境
$vim ~/.bashrc
5.键盘i进行编写,在这个文件的开头位置,添加如下几行内容
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_151
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH
编辑完·esc退出输入:再按wq保存并退出
6.让.bashrc文件的配置立即生效
$source ~/.bashrc
7.使用如下命令查看是否安装成功出现版本号安装成功:
$java -version
三、安装hadoop
1.下载
wget https://repo.huaweicloud.com/apache/hadoop/common/hadoop-3.1.3/hadoop-3.1.3.tar.gz
2.压缩,hadoop的路径在你下载中我移动到了主目录下
$ sudo tar -zxf hadoop-3.1.3.tar.gz -C /usr/local
3.修改目录以及修改目录权限
$cd /usr/local/
$sudo mv ./hadoop-3.1.3/ ./hadoop # 将文件夹名改为hadoop
$sudo chown -R hadoop:hadoop ./hadoop # 修改文件权限
4.查看安装是否成功
$ cd /usr/local/hadoop
$./bin/hadoop version
5.测试(跳过)
6.hadoop伪分布式安装
(1)修改core-site.xml文件
$ cd /usr/local/hadoop
$gedit .//etc/hadoop/core-site.xml
在<configuration></configuration>节点内插入如下内容。
<property>
<name>hadoop.tmp.dir</name>
<value>file:/opt/hadoop/tmp</value>
<description>location to store temporary files</description>
</property>
<property>
<name>fs.defaultFS</name>
<value>hdfs://localhost:9000</value>
</property>
(2) 修改hdfs-site.xml
$gedit .//etc/hadoop/hdfs-site.xml
<configuration></configuration>节点内插入如下内容。
<property>
<name>dfs.replication</name>
<value>1</value>
</property>
<property>
<name>dfs.namenode.name.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/name</value>
</property>
<property>
<name>dfs.datanode.data.dir</name>
<value>file:/usr/local/hadoop/tmp/dfs/data</value>
</property>
(3)执行初始化(只需初始化一次不然namenode后面开启不了)
$cd /usr/local/hadoop
$./bin/hdfs namenode -format
启动HDFS,出现四个完成
$cd /usr/local/hadoop
$./sbin/start-dfs.sh
$jps
四、安装hbase
1.下载
wget https://repo.huaweicloud.com/apache/hbase/2.5.0/hbase-2.5.0-bin.tar.gz
2.压缩,hbase的路径在你下载中我移动到了主目录下
$cd ~
$sudo tar -zxf hbase-2.5.0-bin.tar.gz -C /usr/local
3.修改目录名称以及修改权限
$cd /usr/local
$sudo mv ./hbase-2.5.0 ./hbase
$sudo chown -R hadoop ./hbase
4.环境配置
$gedit ~/.bashrc
如果没有引入过PATH请在~/.bashrc文件尾行添加如下内容:
export PATH=$PATH:/usr/local/hbase/bin
如果已经引入过PATH请在export PATH这行追加/usr/local/hbase/bin
保存然后关闭, 再执行source命令使立即生效
$source ~/.bashrc
5. 添加HBase权限
$cd /usr/local
$sudo chown -R hadoop ./hbase
6查看版本号
$ /usr/local/hbase/bin/hbase version
7.hbase单机模式的配置
(1)修改/usr/local/hbase/conf/hbase-env.sh
$gedit /usr/local/hbase/conf/hbase-env.sh
(2)添加内容如下图,保存并关闭
export JAVA_HOME=/usr/lib/jvm/jdk1.8.0_151
export HBASE_MANAGES_ZK=true
(3)修改/usr/local/hbase/conf/hbase-site.xml
$gedit /usr/local/hbase/conf/hbase-site.xml
(4)<configuration></configuration>之间添加
<property>
<name>hbase.rootdir</name>
<value>file:///usr/local/hbase/hbase-tmp</value>
</property>
(8)启动HBase(先启动HDFS)
$cd /usr/local/hbase
$bin/start-hbase.sh
$bin/hbase shell
(9)退出ctrl+z,输入命令行
$bin/stop-hbase.sh
镜像源内包含hadoop,hive,mysql,hbase,spark
使用virtualbox虚拟机导入即可,mysql的账户为hive密码为hive
所有软件装在hadoop用户中镜像登入密码为123456
链接:https://pan.quark.cn/s/d55cd79cc336
更多推荐
所有评论(0)