玉雨钰瑜
码龄6年
关注
提问 私信
  • 博客:59,776
    59,776
    总访问量
  • 34
    原创
  • 55,178
    排名
  • 36
    粉丝
  • 0
    铁粉
  • 学习成就
IP属地以运营商信息为准,境内显示到省(区、市),境外显示到国家(地区)
IP 属地:上海市
  • 加入CSDN时间: 2018-06-11
博客简介:

qq_42437926的博客

查看详细资料
  • 原力等级
    成就
    当前等级
    3
    当前总分
    355
    当月
    10
个人成就
  • 获得48次点赞
  • 内容获得19次评论
  • 获得91次收藏
  • 代码片获得883次分享
创作历程
  • 3篇
    2024年
  • 1篇
    2023年
  • 16篇
    2022年
  • 11篇
    2021年
  • 10篇
    2020年
成就勋章
TA的专栏
  • hadoop
    2篇
  • hive
    5篇
  • datahub
    4篇
  • 工具
    3篇
  • 数据处理
    2篇
  • java
    5篇
  • mysql
    4篇
  • redis
    1篇
  • kafka
    1篇
  • Centos技术
    3篇
  • hbase
    1篇
  • Javaweb技术
    1篇
兴趣领域 设置
  • 大数据
    hadoophivesparkelasticsearchkafkaflinketl
创作活动更多

如何做好一份技术文档?

无论你是技术大神还是初涉此领域的新手,都欢迎分享你的宝贵经验、独到见解与创新方法,为技术传播之路点亮明灯!

344人参与 去创作
  • 最近
  • 文章
  • 代码仓
  • 资源
  • 问答
  • 帖子
  • 视频
  • 课程
  • 关注/订阅/互动
  • 收藏
搜TA的内容
搜索 取消

spark开启history-server 提交任务报错InvalidAuxServiceException The auxService:spark_shuffle does not exist

然后再对应的yarn nodemanager 节点的yarn-site配置参数。然后将spark目录下的找到目录yarn 将jar包移动到Hadoop目录的。问题描述 提交任务后在页面现实一直运行无法结束,查询异常报错。在history-server 中的conf配置是。
原创
发布博客 2024.12.02 ·
295 阅读 ·
4 点赞 ·
0 评论 ·
5 收藏

Hadoop3.4或者 hive4在jdk17运行报错 module java.base does not “opens java.net“ to unnamed module @305fd85d

我的hive上没有任何hadoo节点,所以在把hadoop的几个配置文件复制到conf目录后,我依旧修改了hive-env.sh在最下面加入了。(只需要修改nodemanager 和 resourcemanager 节点配置)分别在其中添加配置 注意-Xmx1024m 可以不用,我会在配置文件中展示。查询时候没有问题,但是在插入数据走mr时候hive无法插入报错。重启resourcemanager和nodemanager即可。注意这里的参数是hive使用的全部,有可能有多余的。
原创
发布博客 2024.10.08 ·
580 阅读 ·
4 点赞 ·
0 评论 ·
3 收藏

hnswlib报错ItemCannotBeInsertedIntoTheVectorSpaceException

ItemCannotBeInsertedIntoTheVectorSpaceException错误
原创
发布博客 2024.01.16 ·
493 阅读 ·
11 点赞 ·
0 评论 ·
8 收藏

flink-cdc-mysql The MySQL server has a timezone offset (0 seconds ahead of UTC) which does not match

报错信息 MySQL server has a timezone offset (0 seconds ahead of UTC) which does not match the configured timezone Asia/Shanghai. Specify the right server-time-zone to avoid inconsistencies for time-related fields.接下来就可以正常链接了。
原创
发布博客 2023.02.06 ·
6612 阅读 ·
3 点赞 ·
0 评论 ·
4 收藏

flink 读取mysql decimal类型出现的是字符串

1,使用.debeziumProperties对cdc解析的底层框架decimal.handling.mode属性设置为string即可。是在读取mysql的数据时候会在底层进行转换成byte数组来传递,但是decimal并没有转换回去,所以在输出时候是AA==这些。再点击configure方法进入设置map属性的位置可以看到 JsonConverterConfig。两种方式都可以对decimal类型进行正常转换,建议使用第二种。这里就可以看到了对decimal的format。
原创
发布博客 2022.12.20 ·
1029 阅读 ·
1 点赞 ·
0 评论 ·
1 收藏

(Ljava/lang/Object;Ljava/lang/Long;)Lorg/apache/flink/kafka/shaded/org/apache/kafka/clients/producer

问题原因是kafka版本过低再项目中导入kafka-client包。
原创
发布博客 2022.12.09 ·
826 阅读 ·
1 点赞 ·
4 评论 ·
2 收藏

datahub数据源开发maxcompute(dataworks)

datahub开发maxcompute dataworks数据源
原创
发布博客 2022.10.07 ·
1590 阅读 ·
0 点赞 ·
0 评论 ·
2 收藏

docker安装doris

docker部署doris
转载
发布博客 2022.10.04 ·
3543 阅读 ·
1 点赞 ·
0 评论 ·
8 收藏

Flink Doris Connector包编译jar

flink-doris- connection jar包打包使用
原创
发布博客 2022.09.30 ·
1079 阅读 ·
0 点赞 ·
0 评论 ·
1 收藏

datahub数据source读取问题

datahub脚本修改
原创
发布博客 2022.08.19 ·
1234 阅读 ·
4 点赞 ·
2 评论 ·
3 收藏

docker开发常用命令

docker文章笔记记录。
原创
发布博客 2022.08.15 ·
785 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

datahub关联代码开发

由于datahub是python代码,所有在修改后更换源码查看情况和Java开发起来相差巨大,本文主要介绍怎么使用datahub关联pip源码进行开发。
原创
发布博客 2022.08.11 ·
815 阅读 ·
0 点赞 ·
0 评论 ·
4 收藏

datahub lineage血缘展示

启动脚本可以按照官网来也可直接到源码中找到对应的docker路径下的yml文件进行启动。血缘的写法其实是python脚本最好(yml在测试中还问题,以后补充)本文的datahub不是阿里的数据工具是元数据datahub。.........
原创
发布博客 2022.07.29 ·
2385 阅读 ·
3 点赞 ·
8 评论 ·
4 收藏

下载jar或自己本地jar发布到自己本地仓库

国内maven仓库大部分使用的是阿里仓,这时候有许多jar包是maven官方发布但是本地阿里没有的,这时候就很麻烦其实只需要到官方下载。
原创
发布博客 2022.07.28 ·
200 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

atals内嵌hbase和solr编译 启动

内置hbase和solr启动
原创
发布博客 2022.07.15 ·
591 阅读 ·
1 点赞 ·
0 评论 ·
3 收藏

fastjson 数据插入到es时候cannot write xcontent for unknown value of type class java.math.BigDecimal

因为在之前版本的es并不支持bigdecimal处理方式1全局禁止bigdecimal2,局部禁止
原创
发布博客 2022.07.11 ·
945 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

远程连接另外一台mysql报错bash: mysql: 未找到命令...

centos系统安装mysql开启远程连接后,其他主机远程连接mysql报错主要是本机上未安装mysql客户端https://dev.mysql.com/downloads/mysql/下载对应mysql客户端点击安装这时候就可以进行远程连接另外一台主机的mysql...
原创
发布博客 2022.07.09 ·
521 阅读 ·
0 点赞 ·
0 评论 ·
0 收藏

记录项目spring boot GC日志输出信息

spring boot gc日志打印记录
转载
发布博客 2022.06.24 ·
1207 阅读 ·
0 点赞 ·
0 评论 ·
2 收藏

flink on yarn 模式传递vm option参数

最近在使用flink application 模式进行参数传递,flink正常提供的参数可以使用-D进行传递官方地址flink配置选项./bin/flink run-application -t yarn-application \-c com.atta.xt.task.FlinkMappingField \-Djobmanager.memory.process.size=2048m \-Dtaskmanager.memory.process.size=3072m \-Dtaskmanage
原创
发布博客 2022.03.09 ·
490 阅读 ·
0 点赞 ·
0 评论 ·
1 收藏

关于在flink 状态函数State中使用Tuple类型记录

状态编程通常使用几种基础类型即可,但是特殊情况我们可能出现ValueState<Tuple<String>> #TUPLE类型代码记录 使用map作为两种的显示,大家可以一眼看出 private MapState<Long, Tuple5<String, String, String, Long, Long>> mapState; private MapState<Long, Long> timeStateMap;
原创
发布博客 2022.02.17 ·
1487 阅读 ·
0 点赞 ·
0 评论 ·
2 收藏
加载更多