shtdayu
码龄7年
求更新 关注
提问 私信
  • 博客:48,911
    48,911
    总访问量
  • 20
    原创
  • 2
    粉丝
  • 31
    关注
IP属地以运营商信息为准,境内显示到省(区、市),境外显示到国家(地区)
IP 属地:上海市
加入CSDN时间: 2017-12-04
博客简介:

shtdayu的博客

查看详细资料
个人成就
  • 获得3次点赞
  • 内容获得7次评论
  • 获得18次收藏
创作历程
  • 1篇
    2022年
  • 2篇
    2021年
  • 6篇
    2020年
  • 6篇
    2019年
  • 5篇
    2018年
成就勋章
TA的专栏
  • spark
    2篇
  • Hive
    1篇
  • idea sbt
  • sbt加快构建
    1篇
  • 29s构建sbt项目
    1篇
  • shell
    1篇
  • elasticsearch
    1篇
  • bigdata
    2篇
  • ogg
    2篇
  • kylin
    6篇

TA关注的专栏 1

TA关注的收藏夹 0

TA关注的社区 1

TA参与的活动 0

兴趣领域 设置
  • 大数据
    hadoophivesparkbig datakylinetl
  • 最近
  • 文章
  • 专栏
  • 代码仓
  • 资源
  • 收藏
  • 关注/订阅/互动
更多
  • 最近

  • 文章

  • 专栏

  • 代码仓

  • 资源

  • 收藏

  • 关注/订阅/互动

  • 社区

  • 帖子

  • 问答

  • 课程

  • 视频

搜索 取消

Hive实现unpivot

Hive实现unpivot
原创
发布博客 2022.06.04 ·
1273 阅读 ·
0 点赞 ·
0 评论 ·
4 收藏

Apache Kylin CUBE 剪枝优化和cuboid数量计算公式总结

kylin 聚合组优化--------1.简单情况--------------1.强制优化分步乘法,n个元素取m,结果m x n2^(N-X)2.层级优化将N个维度中X个维度设置为层级维度,则cuboid个数减少到 (X+1)*2^(N-X)3.联合维度(Joint Dimension)2 ^ (n-x + 1):从4个里面有三个2 ^(4-3 + 1)=4--------2.最优剪枝--------------解释:所有维度都能被剪枝1.必须维度+层级维度(层级数量+1)
原创
发布博客 2021.12.20 ·
594 阅读 ·
0 点赞 ·
1 评论 ·
1 收藏

Linux date_sub

#!/bin/bashstart_date=$1end_date=$2curent_date=''cur_time=''date_sub=$((($(date +%s -d "$end_date") - $(date +%s -d "$start_date"))/86400));for (( i = 0; i <= $date_sub; i++ )); do cur_time=$(($(date +%s -d "$start_date") + $((i * 86400)...
原创
发布博客 2021.11.09 ·
1049 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

Docker 安装启动后无法连接服务器

Docker 安装启动后服务无法连接:原因:docker0 ip 与 系统ip冲突# 查看ipifconfig解决方法重新绑定docker0 ip(docker0 不能设置为localhost):#修改ipifconfig docker0 10.1.2.xxx
原创
发布博客 2020.12.04 ·
3294 阅读 ·
2 点赞 ·
0 评论 ·
1 收藏

二、Windows+ IDEA 本地调试Apache Kylin3.1.0源码 Streaming Receiver

Windows+ IDEA 本地调试Apache Kylin3.1.0源码Streaming Receiver前置条件:需要完成Windows+ IDEA 本地调试Apache Kylin3.1.0源码-运行coordinator 这篇文档的相关部署------------------------------------------------------------------------------------------------------------------------------
原创
发布博客 2020.07.30 ·
342 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

Windows+IDEA本地调试Apache Kylin3.1.0源码调试-Coordinator(简单易操作版)

Windows+ IEDA 本地调试Apache Kylin3.1.0源码-Coordinator
原创
发布博客 2020.07.29 ·
762 阅读 ·
0 点赞 ·
1 评论 ·
5 收藏

kylin3.1.0 流式构建实时cube there is no valid date pattern for:8.1.0

WARN [main] org.apache.hadoop.mapred.YarnChild: Exception running child : java.lang.IllegalArgumentException: there is no valid date pattern for:8.1.0 at org.apache.kylin.common.util.DateFormat.stringToMillis(DateFormat.java:154) at org.apache.kyli...
原创
发布博客 2020.07.13 ·
390 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

每次打开idea_scala-library:2.11.8.jar异常解决方案

每次打开idea_scala-library.jar异常解决方案异常出现情况:每次打开idea都会出现该异常,不管build.sbt的内容是否发生变化,只要sbt设置了auto-import每次都会重新下载更新sbt(这应该是sbt 的bug,不应该出现这种情况).解决:将sbt 取消 自动下载更新依赖功能.说明:如果需要添加新的依赖需要手动刷新sbt即可,刷新后只要重新添加lib...
原创
发布博客 2020.02.22 ·
10829 阅读 ·
0 点赞 ·
2 评论 ·
0 收藏

Sbt配置本地私服,加快构建项目.搭建完成后29s项目构建完成

Sbt配置本地私服step1.需要搭建maven私服(linux))下载https://www.sonatype.com/nexus-repository-oss网站下方nexus-repository-o免费开源版安装(解压即可)配置本地maven私服 settings.xml<servers><server>&...
原创
发布博客 2020.01.12 ·
756 阅读 ·
0 点赞 ·
0 评论 ·
1 收藏

linux shell 脚本 在oracle 用户下设置定时(crontab) 不生效

#!/bin/bashsource /etc/profilesource ~/.bash_profile在脚本上加入:未加载环境变量,添加source...即可 .
原创
发布博客 2019.10.29 ·
504 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

spark2.2.0 将数据写入elasticsearch7.2.0(idea sbt 项目)

写在前面:idea sbt 项目spark2.2.0cdh6.0.1elasticsearch7.2.0step1.需要sbt依赖name := "biz_xy_diy"version := "0.1"scalaVersion := "2.11.8"resolvers ++= Seq( "Cloudera Repository" at "https://...
原创
发布博客 2019.09.05 ·
1162 阅读 ·
0 点赞 ·
0 评论 ·
1 收藏

apache kylin Type mismatch: rowtype of new rel: RecordType(VARCHAR(256) CHARACTER SET "UTF-16LE"

Type mismatch: rowtype of new rel: RecordType(VARCHAR(256) CHARACTER SET "UTF-16LE" COLLATE "UTF-16LE$en_US$primary" PROVINCEALIASNAME, DOUBLE TARGET, INTEGER D, DECIMAL(17, 19) RETURNAMOUNT) NOT NULL...
原创
发布博客 2019.07.01 ·
957 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

kylin 启动异常 Caused by: java.lang.NoClassDefFoundError: org/apache/commons/configuration/Configuration

Caused by: java.lang.NoClassDefFoundError: org/apache/commons/configuration/ConfigurationException解决:将commons-configuration-1.9.cf57559743f64f0b3a504aba449c9649.jar 复制到kylin的tomcat/lib 下cp /opt/cl...
原创
发布博客 2019.06.29 ·
6137 阅读 ·
0 点赞 ·
0 评论 ·
1 收藏

ogg add trandata ODBC error: SQLSTATE 37000 native database error 22931

. ODBC error: SQLSTATE 37000 native database error 22931. [Microsoft][SQL Server Native Client 10.0][SQL Server]正在直接执行 SQL;无游标[Microsoft][SQL Server Native Client 10.0][SQL Server]已为数据库 'hydee_xhyy' ...
原创
发布博客 2019.01.17 ·
797 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

ogg启动抽取进程提示没有添加trandata但是,使用info trandata 命名后查看结果trandata已经添加成功

解决方法:删除 extract 重新添加,重新启动即可。delete extract e1add extract e1......
原创
发布博客 2019.01.05 ·
2246 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

Kylin 检查元数据(./metastore.sh clean) 异常lang.IllegalStateException: Error to load /model_desc/bs_m1.json

java.lang.IllegalStateException: Error to load /model_desc/bs_m1.json    at org.apache.kylin.metadata.MetadataManager.reloadDataModelDescAt(MetadataManager.java:602)    at org.apache.kylin.metadata....
原创
发布博客 2018.11.30 ·
881 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

Apache Kylin 添加登录用户和密码(修改登录名和密码)

一、准备工作:提示:如果想要跳过第一步,直接进入第二步添加或者是修改用户名和密码。请使用该加密工具(jar包):https://download.csdn.net/download/shtdayu/10812371Step1.创建一个maven项目 kylinStep2.添加依赖<dependency><groupId>org.springfr...
原创
发布博客 2018.11.28 ·
9313 阅读 ·
1 点赞 ·
2 评论 ·
3 收藏

Spring 加密工具包(kylin密码加密工具包)

发布资源 2018.11.28 ·
jar

sbt-launch.jar(sbt1.0.0)重新编译后,使用国内镜像下载)

发布资源 2018.11.07 ·
jar

kylin2.1.0配置hive beeline 出现异常Please set HIVE_CONF to the path which contains hive-site.xml

1.kylin配置 hive 使用beeline时出现异常在默认的配置文件中提示配置应为一下内容,但是配置后出现异常kylin.source.hive.client=beelinekylin.source.hive.beeline-params=-n root --hiveconf hive.security.authorization.sqlstd.confwhitelist.append...
原创
发布博客 2018.09.28 ·
2767 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏
加载更多