少年单排，记录点滴

原创 YARN设计思路（hadoop1.0与hadoop2.x）

转载 Calcite 原理解析

Apache Calcite 是独立于存储与执行的SQL解析、优化引擎，广泛应用于各种离线、搜索、实时查询引擎，如Drill、Hive、Kylin、Solr、flink、Samza等。本文结合hive中基于代价的优化，解析calcite优化引擎的实现原理。Calcite架构  Calcite架构图如下，其中Operator Expressions 是查询树在calcite中的表示，可以直接通...

转载 计算机网络基础知识总结(笔记)

　计算机网络学习的核心内容就是网络协议的学习。网络协议是为计算机网络中进行数据交换而建立的规则、标准或者说是约定的集合。因为不同用户的数据终端可能采取的字符集是不同的，两者需要进行通信，必须要在一定的标准上进行。一个很形象地比喻就是我们的语言，我们大天朝地广人多，地方性语言也非常丰富，而且方言之间差距巨大。A地区的方言可能B地区的人根本无法接受，所以我们要为全国人名进行沟通建立一个语言标准，这就是...

转载 ElasticSearch调优指南

作者：Ghost Stories原文：http://wangnan.tech/post/elasticsearch-how-to/ES 发布时带有的默认值，可为 ES 的开箱即用带来很好的体验。全文搜索、高亮、聚合、索引文档 等功能无需用户修改即可使用，当你更清楚的知道你想如何使用 ES 后，你可以作很多的优化以提高你的用例的性能,下面的内容告诉你 你应该/不应该 修改哪些配置。第一部...

转载 Strom架构和原理

Storm 是一个分布式的，可靠的，容错的数据流处理系统。下面我将分别从storm的整体架构以及部分原理进行讲解。一、基本的概念storm中服务器节点分为主节点和从节点,Nimbus为主节点和Supervisor为从节点。以及若干组件构成。下面为对一些术语进行简单的介绍:Nimbus：主节点，是一个调度中心，负责分发任务Supervisor：从节点，任务执行的地方Worker：...

原创 hive常用函数和运算

hive 常用运算第一部分：关系运算Hive支持的关系运算符•常见的关系运算符•等值比较: =•不等值比较: <>•小于比较: <•小于等于比较: <=•大于比较: >•大于等于比较: >=•空值判断: IS NULL•非空判断: IS NOT NULL•LIKE比较: LIKE•JAVA的LIKE操作: RL...

原创 Hive sql常用语句整理

----------------------------------------------------------------------------------------------------数据库相关操作 Hive配置单元包含一个名为 default 默认的数据库. create database [if not exists] <database na...