最近学习大数据,对于HIVE这个工具,有很多的困惑,不清楚具体有哪些应用场景,以下是我请教了科多大数据的冯老师之后总结出来的一些笔记,希望对大家有帮助
事务:之前了解到的是,转账(一个帐户上都加、一个帐户上进行减)
行级事务(要保存一条insert\update不会出现只插入一部分的情况)
实时:查询速度快,响应速度快。
在企业里面,一个请求发送出去,如果不是太复杂的话,在做需求的时候,整个响应过程一般不会超过3S
OLTP:一般指的是数据库
OLAP:重点在于分析上,用于查询或者分析使用。没有实时要求一般是按天、周、月、年来进行数据统计。
OLTP是要求实时性高,一般是用于业务系统。
OLAP对实时性要求不高,一般用于数据分析(但是一般情况下是比业务系统的存储的数据量更大)
CAP原则:
Consistency(一致性)、 Availability(可用性)、Partition tolerance(分区容错性)
ETL? ETL有一个职位在:ETL工程师
经过抽取(extract)、转换(transform)、加载(load)至目的端的过程
爬虫、数据的算法(清洗、转换)、ETL工具
HIVE的定位是数据仓库,所偏向的是数据分析存储和