重復造輪子，這里使用重新打包生成一個基于docker的hadoop鏡像；
hadoop集群依賴的軟件分別為：jdk、ssh等，所以只要這兩項還有hadoop相關打包進鏡像中去即可；
配置文件準備
1、hadoop相關配置文件：core-site.xml、hdfs-site.xml、mapred-site.xml、yarn-site.xml、slaves、hadoop-env.sh
2、ssh配置文件：ssh_config
3、hadoop集群啟動文件：start-hadoop.sh
制作鏡像
1、安裝依賴
|
1
2
|
run apt-get update && \ apt-get install -y openssh-server openjdk-8-jdk wget |
2、下載hadoop包
|
1
2
3
4
5
|
run wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-2.10.0/hadoop-2.10.0.tar.gz && \tar -xzvf hadoop-2.10.0.tar.gz && \mv hadoop-2.10.0 /usr/local/hadoop && \rm hadoop-2.10.0.tar.gz && \rm /usr/local/hadoop/share/doc -rf |
3、配置環(huán)境變量
|
1
2
3
|
env java_home=/usr/lib/jvm/java-8-openjdk-amd64 env hadoop_home=/usr/local/hadoop env path=$path:/usr/local/hadoop/bin:/usr/local/hadoop/sbin |
4、生成ssh key，用于節(jié)點免密登錄
|
1
2
|
run ssh-keygen -t rsa -f ~/.ssh/id_rsa -p '' && \cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys |
5、創(chuàng)建hadoop相關目錄、復制相關配置文件、相關文件添加執(zhí)行權限，最后格式化namenode節(jié)點，各個節(jié)點啟動時，啟動ssh服務；
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
|
run mkdir -p ~/hdfs/namenode && \ mkdir -p ~/hdfs/datanode && \mkdir $hadoop_home/logscopy config/* /tmp/#復制ssh、hadoop配置相關run mv /tmp/ssh_config ~/.ssh/config && \mv /tmp/hadoop-env.sh /usr/local/hadoop/etc/hadoop/hadoop-env.sh && \mv /tmp/hdfs-site.xml $hadoop_home/etc/hadoop/hdfs-site.xml && \ mv /tmp/core-site.xml $hadoop_home/etc/hadoop/core-site.xml && \mv /tmp/mapred-site.xml $hadoop_home/etc/hadoop/mapred-site.xml && \mv /tmp/yarn-site.xml $hadoop_home/etc/hadoop/yarn-site.xml && \mv /tmp/slaves $hadoop_home/etc/hadoop/slaves && \mv /tmp/start-hadoop.sh ~/start-hadoop.sh && \mv /tmp/run-wordcount.sh ~/run-wordcount.sh#添加執(zhí)行權限run chmod +x ~/start-hadoop.sh && \chmod +x ~/run-wordcount.sh && \chmod +x $hadoop_home/sbin/start-dfs.sh && \chmod +x $hadoop_home/sbin/start-yarn.sh # format namenoderun /usr/local/hadoop/bin/hdfs namenode -format |
在docker中跑hadoop集群
通過上面的dockerfile生成了鏡像后，這里即可使用上面所生成的鏡像搭建hadoop集群；這里啟動一個master、兩個slave節(jié)點；
添加橋接網(wǎng)絡:
|
1
|
docker network create --driver=bridge solinx-hadoop |
啟動master節(jié)點：
|
1
|
docker run -itd --net=solinx-hadoop -p 10070:50070 -p 8088:8088 --name solinx-hadoop-master --hostname solinx-hadoop-master solinx/hadoop:0.1 |
啟動slave1節(jié)點：
|
1
|
docker run -itd --net=solinx-hadoop --name solinx-hadoop-slave1 --hostname solinx-hadoop-slave1 solinx/hadoop:0.1 |
啟動slave2節(jié)點：
|
1
|
docker run -itd --net=solinx-hadoop --name solinx-hadoop-slave2 --hostname solinx-hadoop-slave1 solinx/hadoop:0.1 |
進入master節(jié)點，執(zhí)行啟動hadoop集群腳本即可:
總結
以上所述是小編給大家介紹的在docker中跑hadoop與鏡像制作，希望對大家有所幫助，如果大家有任何疑問請給我留言，小編會及時回復大家的。在此也非常感謝大家對服務器之家網(wǎng)站的支持！
如果你覺得本文對你有幫助，歡迎轉載，煩請注明出處，謝謝！原文鏈接：https://www.cnblogs.com/softlin/archive/2019/11/25/11924731.html
