数据分析:大数据环境安装(docker+docker-compose+spark+hadoop+hive)

本文详细介绍了如何使用VirtualBox和Vagrant创建虚拟机,然后在虚拟机中安装Docker和Docker-compose,进一步部署大数据组件,包括Hadoop、Spark和Hive。通过配置VagrantFile和docker-compose.yml文件,实现对虚拟机和容器的自动化管理。最后,提供了验证大数据环境正常运行的步骤。
摘要由CSDN通过智能技术生成

大数据环境安装

一、VirtualBox创建虚拟机(其他步骤为默认)

修改好需要存放的地址

在这里插入图片描述

将内存大小调整到绿色

在这里插入图片描述

属于动态分配,所以不用太担心占用空间,避免之后空间不足

在这里插入图片描述

选择下载的Ubantu系统

在这里插入图片描述

设置网卡为桥接网卡,利用Ping命令进行检测

C:\Users\Derrick\AppData\Roaming\Typora\typora-user-images\image-20200519152145987.png

二、Vagrant创建虚拟机
2.1 利用命令导入box

根据官网提供的boxes命令去创建虚拟机,参考网址https://app.vagrantup.com/ubuntu/boxes/trusty64

vagrant init ubuntu/trusty64
vagrant up

如果下载较慢,可以用迅雷下载,观察vagrant up执行后的语句,发现有下载地址,添加到迅雷下载

 Downloading: https://vagrantcloud.com/ubuntu/boxes/trusty64/versions/20190514.0.0/providers/virtualbox.box

下载完成后,添加box,注意下载后文件的路径,然后进行查看导入是否成功

vagrant box add --name ubuntu/trusty64 D:\VirtualBoxVMS\trusty-server-cloudimg-amd64-vagrant-disk1.box

在这里插入图片描述

导入成功后再执行vagrant up语句

2.2 成功后利用xshell连接

成功后,可以看到VirtualBox中有对应的虚拟机

在这里插入图片描述

  config.vm.synced_folder '/host/path', '/guest/path', SharedFoldersEnableSymlinksCreate: false
==> default: Clearing any
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值