hive
文章平均质量分 69
大数据二级分类
allen sue
关注:数据从业者,爱好并致力于分析挖掘
邮箱:fish-work@163.com
展开
-
SQL窗口分析函数
ReferenceHiveHive窗口函数Hive Wiki WindowingAndAnalyticsOracleWindow FunctionAnalytic FunctionsMySQLMySQL窗口函数Window Functions概述代码准备(hive)-- ALTER TABLE order RENAME TO order_infoscreate table order_infos(name varchar(20), order_date d原创 2021-01-25 15:40:50 · 244 阅读 · 0 评论 -
msck repair error
error: FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask解决方法hive issue有效方案:set hive.msck.path.validation=ignore;原创 2020-07-01 14:36:24 · 703 阅读 · 0 评论 -
Hive SQL优化
参考文档Hive之——Hive SQL优化常规优化以及执行计划解析基本思想HQL优化,本质是对MR/RDD的优化,可以通过explain hql来查看执行计划常见思路表优化分区(分区多,文件多)静态分区动态分区set hive.exec.dynamic.partition=true;set hive.exec.dynamic.partition.mode=nonstrict;分桶规则:对分桶字段值进行哈希,哈希值除以桶的个数求余,余数决定了该条记录在哪个桶中,原创 2020-05-26 16:06:31 · 296 阅读 · 0 评论 -
hive metastore为MySQL时的中文乱码问题
背景当hive的metastore为MySQL时,数据库及表编码都必须是latin1(CHARACTER SET latin1 COLLATE latin1_bin),否则会有出现报错中文在Latin1下乱码,表现为?解决方法修改/etc/my.cnf,文件中增加如下内容[client]default-character-set=utf8[mysql]default-ch...原创 2020-04-10 17:26:51 · 680 阅读 · 1 评论 -
hive批量导出表结构
hive按user导出全部库的表结果信息,并可以作为表信息迁移使用#!/bin/bash# 读取表create table# $1 = dim_sycm_offical# $2 = $eachline# $3 = sql file namefunCreateTable(){ echo "-- --------------$2" >> create_table_fir...原创 2019-04-22 16:34:56 · 5458 阅读 · 0 评论 -
Hive函数
Hive函数数学函数聚合函数说明表生成函数内置函数数学函数函数说明ceil向上取整rand(123)带seed的,在[0,1]之间的随机数exp(d)e的d次幂ln(d)log(d)–自然数e为底d的对数llog10(d) / log2(d) / log(m, d)10为底 / 2为底 / m为底power(d, p)d的p次幂...原创 2019-04-18 06:38:46 · 577 阅读 · 0 评论 -
hive新建db、授权及权限回收
# osuseradd username# shellbeeline!connect jdbc:hive2://hive_server:hive_port hive hivecreate database username;create role username;grant all on database usernameto role username;grant role...原创 2019-05-14 10:29:16 · 2145 阅读 · 0 评论