自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(7)
  • 资源 (1)
  • 收藏
  • 关注

原创 【DOCKER】Docker 安装ElasticSearch,Kibana【单机免密版】

一、安装ElasticSearch 7.5.11、拉取ElasticSearchdocker pull elasticsearch:7.5.1如果拉取过慢可以参考这篇博客:docker 下载慢如何解决2、配置elasticsearch.yml文件 注:docker pull下来的包一般都是在/var/lib/docker/路径下find /var/lib/docker/overlay2/* -name "elasticsearch.yml"查找的时候一般一个版本的时候只有一个e.

2020-07-21 21:01:02 706

原创 【DOCKER】docker 下载慢如何解决

1、修改daemon.json,如果没有touch一个(touch daemon.json)cd /etc/dockersudo vim /etc/docker/daemon.json#插入{ "registry-mirrors": [ "https://v4xfftbe.mirror.aliyuncs.com", "https://almtd3fa.mirror.aliyuncs.com", "https://hccwwfjl.mirror.aliyuncs

2020-07-20 20:43:47 518

原创 【KAFKA】centos6 搭建kafka

一、官网  http://kafka.apache.org/downloads.html二、Kafka简介  Kafka是由Apache软件基金会开发的一个开源流处理平台,由Scala和Java编写。Kafka是一种高吞吐量的分布式发布订阅消息系统,它可以处理消费者规模的网站中的所有动作流数据。 这种动作(网页浏览,搜索和其他用户的行动)是在现代网络上的许多社会功能的一个关键因素。 这些数据通常是由于吞吐量的要求而通过处理日志和日志聚合来解决。 对于像Hadoop的一样的日志数据和离线分析系统,

2020-07-16 15:00:49 361

转载 乐观锁和悲观锁的使用场景及应用

推荐大家去看原文博主的文章,条理清晰阅读方便,转载是为了方便以后个人查阅https://blog.csdn.net/shanxiyaofeng/article/details/85100131一、定义1、乐观锁:顾名思义,对每次的数据操作都保持乐观的态度,不担心数据会被修改,所以不会对数据进行上锁。由于数据没有上锁,这就存在数据会被多人读写的情况。所以每次修改数据的时候需要对数据进行判断是否被修改过。2、悲观锁:与乐观锁相反,对每次的数据操作都保存悲观的态度,总是担心数据会被修改,所以在自己

2020-07-12 22:54:43 800

转载 Kafka文件的存储机制

推荐大家去看原文博主的文章,条理清晰阅读方便,转载是为了方便以后个人查阅https://www.cnblogs.com/jun1019/p/6256514.htmlKafka文件的存储机制同一个topic下有多个不同的partition,每个partition为一个目录,partition命名的规则是topic的名称加上一个序号,序号从0开始。每一个partition目录下的文件被平均切割成大小相等(默认一个文件是500兆,可以手动去设置)的数据文件,每一个数据文件都被称为一个段(

2020-07-12 22:52:05 207

转载 HDFS文件读写流程

推荐大家去看原文博主的文章,条理清晰阅读方便,转载是为了方便以后个人查阅https://www.cnblogs.com/whoyoung/p/11195698.html存储流程a)Clinet首先将要存储的数据切分成若干块,然后向NameNode发送存储请求,b)NameNode检查权限、存储文件是否已存在等信息,确认无误后返回允许存储的响应,这个响应还包括第一个Block要放在哪个DataNode哪个的地址的信息。c)C...

2020-07-12 22:45:45 151

原创 【MYSQL】Mysql 使用group_concat函数 出现拼接的数据缺失

问题出现的背景: 需要对hive 中的元数据进行concat 操作,在把concat后的数据导入的另一张数据表时发现后面的数据被截取了,如下图:解决思路: 1、查询hive 元数据找出所有的columns#根据表名查询sd_idselect sd_id from TBLS where tbl_name='dwd_clue_detail_dt';#根据sd_id 查询cd_idselect cd_id from SDS where sd_id=642...

2020-07-07 20:37:05 2023

bak_hive_ddl.sh

hive数仓databases,tables DDL语句 备份脚本,下载即可直接运行,需要运行脚本前须保证数据库已创建完成,数据库需要手动创建

2020-08-21

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除