阿里云服务器ECS部署Hadoop集群经验分享

一、配置安全组

首先,要配置安全组。阿里云默认出方向全部开启,入方向关闭。可以通过优先级,端口等设置常用端口如3306、50070、8088、8032等对集群另外的主机开放,也可设置对集群另外主机开放全部端口,一劳永逸。
我自己刚申请到了云主机一周左右,就发生了入侵事件。后来仔细删了恶意脚本,还是反反复复。建议把优先级1设置为禁止一些ip的访问,有备无患。

二、集群主机hosts文件

我的是三台ECS主机,但是不同的VPC,所以只可以通过外网相连,所以刚开始hosts文件定义为本主机是内网ip,其他主机为外网ip。

三、云企业网配置实例互通

首先,插入阿里云配置云企业网链接。大家有需要的 可以去看,很详细了。也可以通过工单问阿里云运维人员,这项是免费的。
阿里云云企业网配置实现实例互通
它分为跨账号同地域网络实例互通、同账号同地域网络实例互通、同账号跨地域网络实例互通、跨账号跨地域网络实例互通。
主要是我在运行mapreduce 和hive 程序时,发现Idea 单机版比集群版本还快,仔细检查,排除了代码问题。原因是我的ECS外网带宽为1M,但是只要配置云企业网实例互通,三台主机实现了内网互通(hosts文件改为了全部是内网ip),阿里云方面说内网带宽为10M,情况好多了。
ping测试:外网ping时延为3ms左右,内网ping时延为0.3ms左右。

未完,待续。。。。。。。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值