虚拟机安装hadoop安装详细步骤图,虚拟机安装Hadoop详细步骤及图解教程
- 综合资讯
- 2024-12-12 21:23:28
- 2

本文提供了详细的虚拟机安装Hadoop的步骤和图解教程,包括安装前准备、配置环境、下载Hadoop安装包、配置Hadoop环境变量、启动Hadoop服务以及运行Hado...
本文提供了详细的虚拟机安装Hadoop的步骤和图解教程,包括安装前准备、配置环境、下载Hadoop安装包、配置Hadoop环境变量、启动Hadoop服务以及运行Hadoop命令等关键步骤,旨在帮助读者顺利完成Hadoop在虚拟机上的安装和配置。
环境准备
1、操作系统:Linux(推荐使用CentOS 7)
2、虚拟机软件:VMware Workstation、VirtualBox等
3、Hadoop版本:根据需要选择合适的版本,本文以Hadoop 3.2.1为例
4、网络配置:虚拟机网络设置为桥接模式,确保与宿主机在同一网络环境下
安装步骤
1、安装Linux操作系统
(1)在虚拟机软件中创建一个新的虚拟机,选择Linux操作系统,以CentOS 7为例。
(2)分配内存、CPU、硬盘等资源。
(3)安装完成后,启动虚拟机,进行系统初始化。
2、配置Linux系统
(1)设置静态IP地址:编辑/etc/sysconfig/network-scripts/ifcfg-ens33
(根据实际情况修改网卡名称),设置以下内容:
TYPE=Ethernet BOOTPROTO=static DEFROUTE=yes PEERDNS=yes PEERROUTES=yes IPV4_FAILURE_FATAL=no NAME=ens33 UUID=8b8f2f1e-0a84-4b5b-8a74-5c367c6c3978 DEVICE=ens33 ONBOOT=yes IPADDR=192.168.1.100 NETMASK=255.255.255.0 GATEWAY=192.168.1.1 DNS1=8.8.8.8 DNS2=8.8.4.4
(2)关闭防火墙:执行以下命令
systemctl stop firewalld systemctl disable firewalld
(3)安装SSH服务:执行以下命令
yum install openssh-server
(4)配置SSH免密登录:在虚拟机中生成SSH密钥对,然后将其复制到宿主机。
ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa ssh-copy-id root@宿主机IP
3、安装Hadoop
(1)下载Hadoop:从Hadoop官网下载所需版本的安装包,本文以Hadoop 3.2.1为例。
(2)解压安装包:将下载的Hadoop安装包解压到指定目录,例如/opt/hadoop-3.2.1
。
(3)配置Hadoop环境变量:编辑/etc/profile
文件,添加以下内容:
export HADOOP_HOME=/opt/hadoop-3.2.1 export PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin
(4)配置Hadoop核心文件:将/opt/hadoop-3.2.1/etc/hadoop/core-site.xml
修改为:
<configuration> <property> <name>fs.defaultFS</name> <value>hdfs://master:8020</value> </property> </configuration>
(5)配置Hadoop集群文件:将/opt/hadoop-3.2.1/etc/hadoop/hdfs-site.xml
修改为:
<configuration> <property> <name>dfs.replication</name> <value>2</value> </property> </configuration>
(6)配置Hadoop地图文件:将/opt/hadoop-3.2.1/etc/hadoop/mapred-site.xml
修改为:
<configuration> <property> <name>mapreduce.framework.name</name> <value>yarn</value> </property> </configuration>
(7)配置HadoopYARN文件:将/opt/hadoop-3.2.1/etc/hadoop/yarn-site.xml
修改为:
<configuration> <property> <name>yarn.resourcemanager.hostname</name> <value>master</value> </property> </configuration>
4、格式化HDFS文件系统
(1)切换到hadoop用户:su hadoop
(2)执行以下命令格式化HDFS文件系统:
hdfs namenode -format
5、启动Hadoop服务
(1)启动NameNode:start-dfs.sh
(2)启动ResourceManager:start-yarn.sh
(3)启动HistoryServer:mr-jobhistory-daemon.sh start historyserver
6、验证Hadoop安装
(1)在浏览器中访问HDFS网页界面:http://master:50070
(2)在浏览器中访问YARN网页界面:http://master:8088
本文详细介绍了在虚拟机中安装Hadoop的步骤,包括环境准备、安装Linux系统、配置Linux系统、安装Hadoop、格式化HDFS文件系统、启动Hadoop服务以及验证Hadoop安装,通过本文的教程,读者可以轻松地在虚拟机中搭建Hadoop集群,为后续的Hadoop学习和实践打下基础。
本文链接:https://www.zhitaoyun.cn/1515718.html
发表评论