大数据基础问答

什么是大数据？
用于①数据的存储：分布式文件系统（分布式存储）②数据的计算：分布式计算。简单一点就是存储和计算的问题，解决日常海量数据的分析。

学习大数据需要什么基础呢？
Java基础（Javase）:类、类、继承、I/O、反射、泛型等；
Linux基础（Linux的操作）:创建文件、目录、vi编辑器的使用；

Java和大数据都有哪些关系呢？
基于Java语言开发→→→ Hadoop体系结构、原理、编程
第一阶段：HDFS、MapReduce、HBase（NoSQL数据库）
第二阶段：数据分析引擎 ---> Hive、Pig
数据采集引擎 ---> Sqoop、Flume
第三阶段：HUE：Web管理工具
ZooKeeper：实现Hadoop的HA
Oozie： 工作流引擎*
基于Java语言开发→→→Scala语言→→→Spark
Spark的学习
第一个阶段：Scala编程语言
第二个阶段：Spark Core-----> 基于内存，数据的计算
第三个阶段：Spark SQL -----> 类似Oracle中的SQL语句
第四个阶段：Spark Streaming ---> 进行实时计算（流式计算）：比如：自来水厂

Apache Storm：类似Spark Streaming ---> 进行实时计算（流式计算）：比如：自来水厂
NoSQL：Redis基于内存的数据库

转载于:https://blog.51cto.com/13949632/2168800