1、hdfs原理,以及各个模块的职责
2、mr的工作原理
3、map方法是如何调用reduce方法的
4、 shell 如何判断文件是否存在,如果不存在该如何处理?
5、fsimage和edit的区别?
6、hadoop1和hadoop2的区别?
笔试:
1、hdfs中的 block 默认保存几份?
2、哪个程序通常与nn在一个节点启动?并做分析
3、列举几个配置文件优化?
4、写出你对zookeeper的理解
5、datanode首次加入cluster的时候,如果log报告不兼容文件版本,那需要namenode执行格式化操作,这样处理的原因
是?
6、谈谈数据倾斜,如何发生的,并给出优化方案
7、介绍一下hbase 过滤器
8、mapreduce基本执行过程
9、谈谈hadoop1和hadoop2的区别
10、hbase集群安装注意事项
11、记录包含值域F和值域G,要分别统计相同G值的记录中不同的F值的数目,简单编写过程。
信息技术有限公司
1、你们的集群规模?
2、你们的数据是用什么导入到数据库的?导入到什么数据库?
3、你们业务数据量多大?有多少行数据?(面试了三家,都问这个问题)
4、你们处理数据是直接读 数据库 的数据还是读文本数据?
5、你们写hive的hql语句,大概有多少条?
6、你们提交的job任务大概有多少个?这些job执行完大概用多少时间?(面试了三家,都问这个问题)
7、hive跟hbase的区别是?
8、你在项目中主要的工作任务是?
9、你在项目中遇到了哪些难题,是怎么解决的?
10、你自己写过udf函数么?写了哪些?
11、你的项目提交到 job 的时候数据量有多大?(面试了三家,都问这个问题)
12、reduce后输出的数据量有多大?
2、mr的工作原理
3、map方法是如何调用reduce方法的
4、 shell 如何判断文件是否存在,如果不存在该如何处理?
5、fsimage和edit的区别?
6、hadoop1和hadoop2的区别?
笔试:
1、hdfs中的 block 默认保存几份?
2、哪个程序通常与nn在一个节点启动?并做分析
3、列举几个配置文件优化?
4、写出你对zookeeper的理解
5、datanode首次加入cluster的时候,如果log报告不兼容文件版本,那需要namenode执行格式化操作,这样处理的原因
是?
6、谈谈数据倾斜,如何发生的,并给出优化方案
7、介绍一下hbase 过滤器
8、mapreduce基本执行过程
9、谈谈hadoop1和hadoop2的区别
10、hbase集群安装注意事项
11、记录包含值域F和值域G,要分别统计相同G值的记录中不同的F值的数目,简单编写过程。
信息技术有限公司
1、你们的集群规模?
2、你们的数据是用什么导入到数据库的?导入到什么数据库?
3、你们业务数据量多大?有多少行数据?(面试了三家,都问这个问题)
4、你们处理数据是直接读 数据库 的数据还是读文本数据?
5、你们写hive的hql语句,大概有多少条?
6、你们提交的job任务大概有多少个?这些job执行完大概用多少时间?(面试了三家,都问这个问题)
7、hive跟hbase的区别是?
8、你在项目中主要的工作任务是?
9、你在项目中遇到了哪些难题,是怎么解决的?
10、你自己写过udf函数么?写了哪些?
11、你的项目提交到 job 的时候数据量有多大?(面试了三家,都问这个问题)
12、reduce后输出的数据量有多大?