![](https://img-blog.csdnimg.cn/2019091813595558.png?x-oss-process=image/resize,m_fixed,h_224,w_224)
大数据平台
大数据平台
huangbiao56
博观而约取,厚积而薄发
展开
-
zookeeper简述与安装
一:zookeeper简述1.zookeeper是什么?ZooKeeper是一个分布式的,开放源码的分布式应用程序协调服务,是Google的Chubby一个开源的实现,是Hadoop和Hbase的重要组件。它是一个为分布式应用提供一致性服务的软件。2.zookeeper能干什么?1)配置管理在我们的应用中除了代码外,还有一些就是各种配置。比如数据库连接等。一般我们都是使用配置文件的方式,...原创 2019-08-10 19:26:26 · 193 阅读 · 0 评论 -
centos中redis的主从复制 哨兵模式 集群搭建
话就不多说了,直接来。一:centos安装redis1.下载redis安装包下载地址:https://redis.io/download我下载的是:redis-3.0.0-rc2.tar.gz2.通过Xftp将压缩包放到指定目录,我是放在:/usr/local/ 目录下3.解压到当前目录:tar -zxvf redis-3.0.0-rc2.tar.gz 压缩文件4.进入到解压后...原创 2019-07-27 02:25:45 · 505 阅读 · 0 评论 -
Hadoop伪分布式平台的搭建
Hadoop 是什么?haddop是开源的分布式存储,和分布式计算平台Java编写的开源系统,能够安排在大规模的计算平台上,从而提高计算效率http://hadoop.apache.orgHadoop核心组件:Hbase:Nosql数据库 Key-Value存储HDFS:分布式文件存储系统,存储海量数据MapReduce:并行处理框架,实现任务分解和调度,主要用来做数据的分析 ...原创 2019-06-22 11:55:51 · 248 阅读 · 0 评论 -
Yarn是什么?搭建Yarn环境
Apache Hadoop YARN (Yet Another Resource Negotiator,另一种资源协调者)是一种新的 Hadoop 资源管理器,它是一个通用资源管理系统,可为上层应用提供统一的资源管理和调度,它的引入为集群在利用率、资源统一管理和数据共享等方面带来了巨大好处。YARN的基本思想是将JobTracker的两个主要功能(资源管理和作业调度/监控)分离,主要方法是创建一...原创 2019-06-22 15:16:06 · 859 阅读 · 0 评论 -
eclipse操作hadoop-文件上传下载以及使用MapReduce完成对一个文本文件的单词计数
1.查看hdfs上的文件public static void main(String[] args) { try { // 创建要链接的资源地址 URI uri = new URI("hdfs://xxx.xxx.xxx.xxx:端口号"); //这个地址是hadoop目录下etc/hadoop/core-site.xml文件里的 fs.defaultFS 地址 Con...原创 2019-06-22 20:23:32 · 1178 阅读 · 0 评论 -
hadoop暂时/永久关闭安全模式
在安全模式下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。运行期通过命令也可以进入 安全模式。在实践过程中,系统启动的时候去修改和删除文件也会有安全模式不允许修改的出错提示,只需要等待一会儿即可。 但是如果是在小型测试集群,往往因为结点数量较少,很可能导致集群一...原创 2019-07-30 11:02:00 · 13230 阅读 · 1 评论 -
kafka简述与集群配置
一:kafka简述消息队列(Message Queue)消息 Message 网络中的两台计算机或者两个通讯设备之间传递的数据。例如说:文本、音乐、视频等内容。队列 Queue 一种特殊的线性表(数据元素首尾相接),特殊之处在于只允许在首部删除元素和在尾部追加元素。入队、出队。消息队列 MQ 消息+队列,保存消息的队列。消息的传输过程中的容器;主要提供生产、消费接口供...原创 2019-08-03 18:54:21 · 502 阅读 · 0 评论