下載Hadoop 官網(wǎng):http://hadoop.apache.org/releases.html
先配置jdk環(huán)境(教程:http://www.zmynmublwnt.cn/article/99131.html)
下載以后 解壓到到/usr/local
1
|
tar -zxvf hadoop-2.8.0.tar.gz -c /usr/local |
為了方便操作 把hadoop-2.8.0 改為hadoop
1
|
mv /usr/local/hadoop-2.8.0 /usr/local/hadoop |
查看主機(jī)名
1
|
hostname //第一個(gè)參數(shù)為主機(jī)名 |
檢查是否可以免密碼
1
|
ssh localhost //這里的localhost為主機(jī)名 |
注意:一般初次安裝都需要密碼
1
|
ssh-keygen -t dsa -p '' -f ~/.ssh/id_dsa |
1
|
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys |
再次驗(yàn)證
1
|
ssh-keygen -t dsa -p '' -f ~/.ssh/id_dsa |
1
|
cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys |
注意:如沒(méi)有enter password 就說(shuō)明免密碼了
配置環(huán)境變量
1
|
vim /etc/profile |
末尾添加
1
2
|
export hadoop_home=/usr/local/hadoop export path=$java_home/bin:$path:$home/bin:$hadoop_home/bin |
使環(huán)境變量立即生效
1
|
source /etc/profile |
創(chuàng)建hadoop的臨時(shí)文件存放地
1
|
mkdir /usr/local/hadoop/tmp |
編輯hadoop的配置文件
1
2
|
cd /usr/local/hadoop/etc/hadoop/ vim hadoop-env.sh |
末尾添加
1
2
|
export java_home=/usr/local/java/jdk1.8.0_131/ export hadoop_conf_dir=/usr/local/hadoop/etc/hadoop |
注意:路徑要對(duì)
使環(huán)境變量立即生效
1
|
source hadoop-env.sh |
配置另一個(gè)文件
1
|
vim core-site.xml |
在<configuration></configuration>中添加以下內(nèi)容
1
2
3
4
5
6
7
8
|
< property > < name >fs.defaultfs</ name > < value >hdfs://localhost:9000</ value > </ property > < property > < name >hadoop.tmp.dir</ name > < value >file:/usr/local/hadoop/tmp</ value > </ property > |
配置下一個(gè)文件 hdfs-site.xml
1
|
vim hdfs-site.xml |
在<configuration></configuration>中添加以下內(nèi)容
1
2
3
4
5
6
7
8
9
10
11
12
|
< property > < name >dfs.replication</ name > < value >1</ value > </ property > < property > < name >dfs.namenode.name.dir</ name > < value >file:/usr/local/hadoop/tmp/dfs/name</ value > </ property > < property > < name >dfs.datanode.data.dir</ name > < value >file:/usr/local/hadoop/tmp/dfs/data</ value > </ property > |
配置下一個(gè)文件mapred-site.xml 因?yàn)檫@個(gè)文件默認(rèn)不存在 我們把mapred-site.xml.template作為模板來(lái)配置
1
|
cp mapred-site.xml.template mapred-site.xml |
vim mapred-site.xml
在<configuration></configuration>中添加以下內(nèi)容
1
2
3
4
|
< property > < name >mapreduce.framework.name</ name > < value >yarn</ value > </ property > |
配置下下個(gè)文件yarn-site.xml
1
|
vim yarn-site.xml |
在<configuration></configuration>中添加以下內(nèi)容
1
2
3
4
|
< property > < name >yarn.nodemanager.aux-services</ name > < value >mapreduce_shuffle</ value > </ property > |
配置最后一個(gè)文件yarn-env.sh
vim yarn-env.sh
注意:在第23行左右 export java_home (刪除# 去掉注釋?zhuān)⒏恼_jdk的路徑
格式化namenode
1
2
|
cd /usr/local/hadoop bin/hdfs namenode-format |
注意:成功的話,會(huì)看到 “successfully formatted” 和 “exitting withstatus 0” 的提示,若為 “exitting with status 1” 則是出錯(cuò)了
通過(guò)腳本啟動(dòng)hdfs
1
|
sbin/start-dfs.sh |
打開(kāi)瀏覽器訪問(wèn)http://localhost:50070,驗(yàn)證是否hdfs配置成功
再來(lái)啟動(dòng)yarn
1
|
sbin/start-yarn.sh |
打開(kāi)瀏覽器訪問(wèn)http://localhost:8088,驗(yàn)證yarn是否配置成功
注意:由于瀏覽器存在緩存問(wèn)題 打開(kāi)地址可能會(huì)失敗關(guān)閉瀏覽器 重新打開(kāi)一兩次就好,如果還是失敗 檢查配置文件是否有誤
查看已啟動(dòng)的hadoop進(jìn)程
jps
注意:如果沒(méi)有 namenode 或 datanode ,那就是配置不成功
原文鏈接:https://www.idaobin.com/archives/157.html