1 Star 0 Fork 26

hinzzz / docker-compose-hadoop

加入 Gitee
与超过 1200万 开发者一起发现、参与优秀开源项目,私有仓库也完全免费 :)
免费加入
该仓库未声明开源许可证文件(LICENSE),使用请关注具体项目描述及其代码上游依赖。
克隆/下载
README.md 3.12 KB
一键复制 编辑 原始数据 按行查看 历史
大数据老司机 提交于 2023-05-03 03:11 . update README.md.

docker-compose Hadoop 快速部署

1)安装 docker

# 安装yum-config-manager配置工具
yum -y install yum-utils

# 建议使用阿里云yum源:(推荐)
#yum-config-manager --add-repo https://download.docker.com/linux/centos/docker-ce.repo
yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

# 安装docker-ce版本
yum install -y docker-ce
# 启动并开机启动
systemctl enable --now docker
docker --version

2)安装 docker-compose

curl -SL https://github.com/docker/compose/releases/download/v2.16.0/docker-compose-linux-x86_64 -o /usr/local/bin/docker-compose

chmod +x /usr/local/bin/docker-compose
docker-compose --version

3)安装 git

yum -y install git

4)Hadoop 部署(非高可用)

git clone https://gitee.com/hadoop-bigdata/docker-compose-hadoop.git

cd docker-compose-hadoop/hadoop

# 开始部署
# 这里-f docker-compose.yaml可以省略,如果文件名不是docker-compose.yaml就不能省略,-d 后台执行
docker-compose -f docker-compose.yaml up -d

# 查看部署状态
docker-compose -f docker-compose.yaml ps

输入图片说明

HDFS:http://ip:30070/

YARN:http://ip:30070/

5)Hadoop HA 部署(高可用)

# 如已下载可以忽略执行下载命令
git clone https://gitee.com/hadoop-bigdata/docker-compose-hadoop.git

cd docker-compose-hadoop/hadoop-ha

# 开始部署
# 这里-f docker-compose.yaml可以省略,如果文件名不是docker-compose.yaml就不能省略,-d 后台执行
docker-compose -f docker-compose.yaml up -d

# 查看部署状态
docker-compose -f docker-compose.yaml ps

输入图片说明

HDFS:http://ip:30070http://ip:30071

YARN:http://ip:30888http://ip:30889

6)Hadoop Hive 部署(包括Hadoop)

1、下载

git clone https://gitee.com/hadoop-bigdata/docker-compose-hadoop.git

2、创建网络

# 创建,注意不能使用hadoop_network,要不然启动hs2服务的时候会有问题!!!
docker network create hadoop-network

# 查看
docker network ls

3、部署 mysql5.7

cd docker-compose-hadoop/mysql

docker -f mysql-compose.yaml up -d

docker -f mysql-compose.yaml ps

#root 密码:123456,以下是登录命令,注意一般在公司不能直接在命令行明文输入密码,要不然容易被安全抓,切记,切记!!!
docker exec -it mysql mysql -uroot -p123456

4、部署 Hadoop Hive

cd docker-compose-hadoop/hadoop_hive

docker-compose -f docker-compose.yaml up -d

# 查看
docker-compose -f docker-compose.yaml ps

# hive
docker exec -it hive-hiveserver2 hive -e "show databases";

# hiveserver2
docker exec -it hive-hiveserver2 beeline -u jdbc:hive2://hive-hiveserver2:10000  -n hadoop -e "show databases;"

输入图片说明

上面只是快速部署的操作,如需详细教程,可关注我的公众号【大数据与云原生技术分享】,在公众号号里回复 dch 即可获取完整版教程~

输入图片说明

马建仓 AI 助手
尝试更多
代码解读
代码找茬
代码优化
1
https://gitee.com/hinzzz/docker-compose-hadoop.git
git@gitee.com:hinzzz/docker-compose-hadoop.git
hinzzz
docker-compose-hadoop
docker-compose-hadoop
master

搜索帮助

344bd9b3 5694891 D2dac590 5694891