0


史上最详细的hadoop安装教程

一、引言

首先说明一下,本文的安装教程仅是针对个人的操作经验所写的。可能有些同学安装的时候觉得跟他的不一样,那可能是由于版本不一样所导致的。另外本次分享是基于已经安装了java及配置好了环境。
本机的配置环境如下:
Hadoop(3.1.1)
Ubuntu Linux(64位系统)

二、安装ssh服务

ubuntu中默认是没有安装ssh server的,只有 ssh client,可以使用如下命令安装:
sudo apt-get install ssh openssh-server

默认root用户是无法通过ssh连接到ubuntu的,修改配置文件

vim /etc/ssh/sshd_config

把 PermitRootLogin yes 按照这个配置

三、安装Hadoop

1.下载Hadoop安装包
可以到如下网址下载:http://apache.stu.edu.tw/hadoop/common/hadoop-3.1.1/

2.解压

把压缩包传到 /usr/local/目录中
使用如下命令解压缩Hadoop安装包:
tar -zxvf hadoop-3.1.1.tar.gz
解压完成之后出现Hadoop-3.1.1的文件下如下:

3.配置Hadoop中相应的文件
我使用的是Hadoop的伪分布式,因此需要配置的文件如下,hadoop-env.sh,core-site.xml,mapred-site.xml.template,hdfs-site.xml,所有的文件均位于hadoop3.1.1/etc/hadoop下面,

具体需要的配置如下:
(1)core-site.xml 配置如下: 目录文件不需要你自己去创建会自动生成。

<configuration>
                <property>
             <name>hadoop.tmp.dir</name>
             <value>file:/home/root/hadoop/tmp</value>
             <description>Abase for other temporary directories.</description>
        </property>
        <property>
             <name>fs.defaultFS</name>
             <value>hdfs://localhost:9000</value>
        </property>
</configuration>

(2)mapred-site.xml.template配置如下:

把mapred-site.xml.template  复制一份  cp mapred-site.xml.template mapred-site.xml,然后配置

mapred-site.xml这个文件内容

<configuration>
<property>
             <name>mapred.job.tracker</name>

             <value>localhost:9001</value>
        </property>

</configuration>

(3)hdfs-site.xml配置如下:

<configuration>
  <property>
             <name>dfs.replication</name>
             <value>1</value>
        </property>
        <property>
             <name>dfs.namenode.name.dir</name>
             <value>file:/home/root/hadoop/tmp/dfs/name</value>
        </property>
        <property>
             <name>dfs.datanode.data.dir</name>
             <value>file:/home/root/hadoop/tmp/dfs/data</value>
        </property>
</configuration>

(4)hadoop-env.sh配置如下:

查看你的 jdk安装目录

echo $JAVA_HOME

export JAVA_HOME="/usr/local/jdk8"

四、运行Hadoop
1.首先你需要初始化HDFS系统
在hadop3.1.1目录下使用如下命令:

bin/hdfs namenode -format

成功之后截图如下:

表示已经初始化完成。
2.开启NameNode和DataNode守护进程
在hadop3.1.1目录下使用如下命令:

sbin/start-dfs.sh

成功之后截图如下:

3.查看进程信息
在hadop3.1.1目录下使用如下命令:

jps

成功之后截图如下:

4.查看Web UI
在浏览器中输入http://localhost:50070,即可查看相关信息。但是有些同学可能出现访问不了50070端口的问题。你可以在终端使用

netstat -ntlp

查看一下服务器启动的端口。

以后关机在启动hadoop只需要执行sbin/start-all.sh就可以启动hadoop了

sbin/start-all.sh

然后一个个尝试,我最终找到的HDFS nameNode 的登陆端口是9870
成功之后的截图如下:

标签: hadoop

本文转载自: https://blog.csdn.net/weixin_41359822/article/details/119878550
版权归原作者 新生代农民 所有, 如有侵权,请联系我们删除。

“史上最详细的hadoop安装教程”的评论:

还没有评论