這是Hadoop學(xué)習(xí)全程記錄第1篇,在這篇里我將介紹一下如何在Linux下安裝Hadoop1.x。
先說明一下我的開發(fā)環(huán)境:
操作系統(tǒng):CentOS6.4;
版本:jdk1.8;hadoop1.2.1
①下載hadoop1.2.1,網(wǎng)盤:鏈接: https://pan.baidu.com/s/1sl5DMIp 密碼: 5p67
下載jdk1.8,網(wǎng)盤:鏈接: https://pan.baidu.com/s/1boN1gh5 密碼: t36h
將 jdk-8u144-linux-x64.tar.gz 解壓至 /home/wyt/jdk8 文件夾下,將 hadoop-1.2.1.tar.gz 解壓至 /home/wyt/hadoop 文件夾下。
②配置jdk及hadoop環(huán)境變量:修改/etc/profile文件
1
2
|
vim /etc/profile // 輸入I,進(jìn)入編輯模式 |
1
2
3
4
|
export JAVA_HOME= /home/wyt/jdk8 export CLASSPATH=.:$CLASSPATH:$JAVA_HOME /lib export HADOOP_HOME= /home/wyt/hadoop export PATH=$PATH:$HADOOP_HOME /bin :$JAVA_HOME /bin |
1
2
|
// 按Esc,按Shift,輸入:wq source /etc/profile // 保存并退出 |
③測試
1
2
|
java,javac,java -version hadoop |
④修改hadoop配置文件
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
|
<!-- hadoop- env .sh --> export JAVA_HOME= /usr/java/jdk8 <!-- core-site.xml --> <property> <name>hadoop.tmp. dir < /name > <value> /hadoop < /value > < /property > <property> <name>dfs.name. dir < /name > <value> /hadoop/name < /value > < /property > <property> <name>fs.default.name< /name > <value>hdfs: //localhost :9000< /value > < /property > <!-- hdfs-site.xml --> <property> <name>dfs.data. dir < /name > <value> /hadoop/data < /value > < /property > <!-- mapred-site.xml --> <property> <name>mapred.job.tracker< /name > <value>localhost:9001< /value > < /property > |
并在hadoop安裝目錄下新建data、name、tmp文件夾。
⑤名稱節(jié)點(diǎn)格式化,并查看運(yùn)行狀態(tài)
1
2
3
4
5
6
7
8
9
10
11
|
hadoop namenode - format //cd 命令切換至 hadoop /bin/ 文件夾下,輸入 ls 命令查看 start-all.sh jps // 查看運(yùn)行狀態(tài),運(yùn)行正常的話需要多次輸入密碼 // 最后結(jié)果為: // Jps // JobTracker // NameNode // DataNode // SecondaryNameNode // NodeManager |
⑥測試hdfs
1
2
3
4
5
|
// 常用hdfs命令: hadoop fs - ls /查看目錄 hadoop fs -put a.txt /user/hadoop/ 放入 hadoop fs - cat /user/hadoop/a .txt 查看內(nèi)容 hadoop fs -rmr /output :刪除文件/文件夾 |
附:linux常用命令:
1
2
3
4
5
6
7
|
cd .. // 返回上級目錄 cd ~ // 返回Home目錄 cd / // 返回根目錄 cd var/ // 進(jìn)入var/文件夾下(使用tab) su - // 超級管理員模式 ifconfig // 查看ip |
附:其他常用linux操作軟件:
1
2
3
4
|
//windows 與虛擬機(jī)centos文件傳輸: filezilla;Xftp 5;或者安裝VMware Tools(可便捷使用剪切板及文件復(fù)制功能) // 脫離虛擬機(jī)centos輸入命令行: Xshell 5 |
以上就是本文的全部內(nèi)容,希望對大家的學(xué)習(xí)有所幫助,也希望大家多多支持服務(wù)器之家。
原文鏈接:http://www.cnblogs.com/W-Yentl/archive/2017/09/18/7545892.html