大数据
文章平均质量分 79
leveretz
多年潜水,回馈社会
展开
-
Android快速开发脚手架 + 常见的目录结构与多模块项目
Android安装过程原创 2023-03-01 09:23:00 · 488 阅读 · 0 评论 -
使用Dockerfile为SpringBoot应用构建Docker镜像
使用Dockerfile为SpringBoot应用构建Docker镜像转载 2023-02-27 12:56:52 · 324 阅读 · 0 评论 -
k8s搭建部署
k8s搭建部署转载 2022-07-16 10:29:27 · 256 阅读 · 0 评论 -
java MQTT
java MQTT转载 2022-07-16 10:26:28 · 1571 阅读 · 0 评论 -
Java实现MQTT通信
Java实现MQTT通信转载 2022-07-16 10:24:55 · 3176 阅读 · 0 评论 -
java实现简单的MQTT协议
java实现简单的MQTT协议转载 2022-07-16 10:23:57 · 5478 阅读 · 0 评论 -
MQTT特性 五:服务质量水平(QoS)
MQTT特性 五:服务质量水平(QoS)转载 2022-07-16 10:22:37 · 632 阅读 · 0 评论 -
如何通过MQTT协议使DTU设备连接阿里云实现数据传输
如何通过MQTT协议使DTU设备连接阿里云实现数据传输转载 2022-07-16 10:21:19 · 1974 阅读 · 1 评论 -
RS485与Modbus通信协议教程!
RS485与Modbus通信协议教程!转载 2022-07-16 10:19:21 · 4517 阅读 · 0 评论 -
java通过dtu通讯进行modbus数据交换
java通过dtu通讯进行modbus数据交换转载 2022-07-16 10:18:19 · 1333 阅读 · 0 评论 -
RS232/RS485转4G DTU 上传基于Modbus协议的温湿度传感器数据到远程TCP服务器
RS232/RS485转4G DTU 上传基于Modbus协议的温湿度传感器数据到远程TCP服务器转载 2022-07-25 14:11:23 · 1036 阅读 · 0 评论 -
pom文件ignored
原文地址:Maven项目在new module后,pom文件显示为Ignored pom.xml_newflyer666的博客-CSDN博客_pom文件显示ignoredMaven项目在创建module后,pom文件显示为Ignored pom.xml原因: 是因为我之前就已经创建了同名的module,但后来删掉了,之后又创建和之前删除掉的module同名的module。由于相同名称的module之前被创建过,所以在idea中留有痕迹,现在重新创建同名的module,让idea误认为是之前删除转载 2021-12-21 10:14:23 · 1790 阅读 · 0 评论 -
条件查询LambdaQueryWrapper
原文地址:QueryWrapperLambdaQueryWrapper-(条件查询)_杰拉德·皮克·谢的博客-CSDN博客MyBatis-Plus QueryWrapper及LambdaQueryWrapper的使用假如我们有一张user表,现需要通过user_name查出所有数据@ApiModel(description = "用户实体")public class User { /** * serialVersionUID */ @Api...转载 2021-11-16 06:47:10 · 9120 阅读 · 0 评论 -
springboot多环境配置
开发SpringBoot应用的时候,通常程序需要在测试环境测试成功后才会上线到生产环境。而测试环境和生产环境的数据库地址、服务器端口等配置都不同。在为不同环境打jar包时,需要频繁的修改application.yml配置文件,十分麻烦。可以采用创建多个配置文件的方法解决这一问题。创建以下三个文件,配置不同环境的地址信息,存放在application.yml同一目录下:application-dev.yml:本地开发环境application-test.yml:测试环境applicat转载 2021-11-15 10:56:39 · 147 阅读 · 0 评论 -
redis集群3
原文地址:Redis集群搭建及原理 - 风止雨歇 - 博客园一、哨兵模式在 redis3.0之前,redis使用的哨兵架构,它借助 sentinel 工具来监控 master 节点的状态;如果 master 节点异常,则会做主从切换,将一台 slave 作为 master。哨兵模式的缺点:(1)当master挂掉的时候,sentinel 会选举出来一个 master,选举的时候是没有办法去访问Redis的,会存在访问瞬断的情况;若是在电商网站大促的时候master给挂掉了,几秒钟损失好多订单转载 2021-11-15 10:32:15 · 368 阅读 · 0 评论 -
redis集群2
原文地址:Redis集群详解_变成习惯-CSDN博客_redis集群Redis集群详解Redis有三种集群模式,分别是:* 主从模式* Sentinel模式* Cluster模式三种集群模式各有特点,关于Redis介绍可以参考这里:NoSQL(二)——RedisRedis官网:https://redis.io/ ,最新版本5.0.4主从模式主从模式介绍主从模式是三种模式中最简单的,在主从复制中,数据库分为两类:主数据库(master)和从数据库(slave)。其中转载 2021-11-15 10:20:09 · 328 阅读 · 0 评论 -
redis 集群
原文地址:一文读懂Redis的四种模式,单机、主从、哨兵、集群 - 龙跃十二 - 博客园本文已经被GitHub收录,欢迎大家踊跃star 和 issues。https://github.com/midou-tech/articles入职第一周,我被坑了最近刚入职新公司,本来想着这刚来新公司,一般都是熟悉熟悉公司同事,看看组内工程文档,找几个demo自己练练手。咳咳咳,万万没想到啊,一切都是我以为的,我还是太嫩了。入职那天下午,组长给我丢了几个文档,让我看下这个这些工程的缓存系统问题,转载 2021-11-15 10:02:48 · 93 阅读 · 0 评论 -
右键菜单管理
直接使用杀毒软件的邮件菜单管理原创 2021-11-14 08:23:24 · 337 阅读 · 0 评论 -
putty用法
putty中文乱码###方法一:打开putty主程序,选择window-〉Appearance-〉Font settings-〉Change Settings,选择Fixedsys字体,字符集选择CHINESE_GB2312。在window-〉Appearance-〉 Translation中,Received data assumed to be in which character set 中,把Use font encoding改为UTF-8如果经常使用,把这些设置保存在sessi..原创 2021-11-10 11:38:45 · 556 阅读 · 0 评论 -
ssh 用法
原文地址:SSH 命令的11种用法 | 《Linux就该这么学》1,使用ssh连接远程主机最简单的用法只需要指定用户名和主机名参数即可,主机名可以是 IP 地址或者域名。 $ ssh user@hostname2,ssh连接到其他端口SSH 默认连接到目标主机的 22 端口上,可以使用-p选项指定端口号 $ ssh -p 10022 user@hostname3,使用ssh在远程主机执行一条命令并显示到本地, 然后继续本地工作直接连接并在后面加上要执行的命令就可转载 2021-11-10 10:51:35 · 4152 阅读 · 0 评论 -
hbase kerberos
原文链接:HBase ThriftServer Kerberos认证 - 程序员大本营1.前置用户可以通过ThriftServer来访问HBase服务,它的特点如下:ThriftServer代理用户访问HBase服务返回操作结果,用户客户端不需要直接跟HBase进行通信 用户可以使用java/python/php/c++等语言的Thrift客户端代码访问HBase服务(HBase本身客户端只支持java语言)2. Kerberos下的ThriftServer使用如果HBase集群开启转载 2021-10-27 09:23:53 · 1077 阅读 · 0 评论 -
hbase rowkey 设计
原文地址:HBase之六:HBase的RowKey设计 - duanxz - 博客园HBase是三维有序存储的,通过rowkey(行键),column key(column family和qualifier)和TimeStamp(时间戳)这个三个维度可以对HBase中的数据进行快速定位。HBase中rowkey可以唯一标识一行记录,在HBase查询的时候,有两种方式:1、通过get方式,指定rowkey获取唯一一条记录2、通过scan方式,设置startRow和stopRow参数进行范围匹配.转载 2021-10-26 11:35:21 · 509 阅读 · 0 评论 -
spark 读写kerberos认证的hbase
1.赋予drguo用户相应的权限2.KDC中创建drguo用户并导出相应的keytab文件[root@bigdata28 ~]# kadmin.localAuthenticating as principal drguo/admin@AISINO.COM with password.kadmin.local: addprinc drguo/bigdata28WARNING: no policy specified for drguo/bigdata28@AISINO.COM; defaulti..转载 2021-10-21 16:23:59 · 909 阅读 · 0 评论 -
mysql 二级分区
原文链接:https://blog.csdn.net/weixin_42513546/article/details/113239970二级分区表是分析型数据库MySQL版向用户提供的高级功能,用于实现数据的增量同步。语法CREATE TABLE table_name(column_name data_type[NOT NULL][DEFAULT'default'][COMMENT'comment'][,…],primary key(column_name[,…]))PARTIT..转载 2021-10-21 16:19:54 · 1206 阅读 · 0 评论 -
mysql锁表与解锁
查询是否锁表show OPEN TABLES where In_use > 0;查看所有进程MySQL:show processlist;mariabd:show full processlist;查询到相对应的进程===然后 kill id杀掉指定mysql连接的进程号kill $pid查看正在锁的事务SELECT * FROM INFORMATION_SCHEMA.INNODB_LOCKS;查看等待锁的事务SELECT * FROM INFORMATI...转载 2021-09-22 10:38:31 · 5288 阅读 · 0 评论 -
clickhouse总结
原文地址:https://zhuanlan.zhihu.com/p/98135840引言ClickHouse是近年来备受关注的开源列式数据库,主要用于数据分析(OLAP)领域。目前国内社区火热,各个大厂纷纷跟进大规模使用:今日头条内部用ClickHouse来做用户行为分析,内部一共几千个ClickHouse节点,单集群最大1200节点,总数据量几十PB,日增原始数据300TB左右。 腾讯内部用ClickHouse做游戏数据分析,并且为之建立了一整套监控运维体系。 携程内部从18年7月份开始.转载 2021-09-07 11:15:41 · 739 阅读 · 0 评论 -
clickhouse介绍
原文地址:https://www.jianshu.com/p/fca68daf4cbf背景在数据量日益增长的当下,传统数据库的查询性能已满足不了我们的业务需求。而Clickhouse在OLAP领域的快速崛起引起了我们的注意,于是我们引入Clickhouse并不断优化系统性能,提供高可用集群环境。本文主要讲述如何通过Clickhouse结合大数据生态来定制一套完善的数据分析方案、如何打造完备的运维管理平台以降低维护成本,并结合具体案例说明Clickhouse的实践过程。Clickhouse简介转载 2021-09-07 11:11:18 · 3869 阅读 · 0 评论 -
datax使用
原文地址:https://blog.csdn.net/qq_28131641/article/details/805400791、 DataX3.0概览 DataX 是一个异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、ODPS、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能,如图1-1所示。图1-1 DataX的应用数据库范围DataX目前已经有了比较全面的插件体系,主流的RDBMS数据库、NOSQL、大数据计算系统都已经.转载 2021-09-02 14:47:00 · 191 阅读 · 0 评论 -
datax介绍
原文地址:https://blog.csdn.net/binggetong/article/details/827073211.DataX1.1介绍DataX 是阿里巴巴集团内被广泛使用的异构数据源离线同步工具,致力于实现包括关系型数据库(MySQL、Oracle等)、HDFS、Hive、MaxCompute(原ODPS)、HBase、FTP等各种异构数据源之间稳定高效的数据同步功能。DataX本身作为离线数据同步框架,采用Framework + plugin架构构建。将数据源读取和写入抽象成为转载 2021-09-02 14:45:44 · 1112 阅读 · 0 评论 -
phoenix导出csv文件
原文地址:https://www.cnblogs.com/alexgl2008/articles/12852013.html?share_token=E21CB83E-5BBF-4D90-AF9B-5B01ADD7A1B8&tt_from=weixin&utm_source=weixin&utm_medium=toutiao_ios&utm_campaign=client_share&wxshare_count=11. 是否存在高效的csv导出工具?pho转载 2021-08-27 13:51:26 · 744 阅读 · 0 评论 -
hbase查看hfile
原文地址:https://www.cnblogs.com/ilifeilong/p/10846883.html原文地址:https://www.cnblogs.com/quchunhui/p/7611565.html===流程===1. 创建一张表2. 插入10条数据3. 查看HFile===操作===1.创建表package api;import org.apache.hadoop.conf.Configuration;import org.apache.h转载 2021-08-17 17:22:10 · 578 阅读 · 0 评论 -
open tsdb介绍
原文地址:https://www.jianshu.com/p/cf893024313a1.1、OpenTSDB是什么?主要用途是什么?官方文档这样描述:OpenTSDB is a distributed, scalable Time Series Database (TSDB) written on top of HBase;翻译过来就是,基于Hbase的分布式的,可伸缩的时间序列数据库。主要用途,就是做监控系统;譬如收集大规模集群(包括网络设备、操作系统、应用程序)的监控数据并进行存储,查转载 2021-08-10 16:23:32 · 405 阅读 · 0 评论 -
hbase导出csv文件
原文地址:https://199604.com/16161.连接hbasehbase shell2.查看Hbase中的表list3.获取hbase表的数据扫描1条数据scan 'PM_NR_SA_NRCELLDU_HOUR',{LIMIT=>1}范围查询scan 'PM_NR_SA_NRCELLDU_HOUR',{LIMIT=>1,STARTROW=>'190601'}scan 'PM_NR_SA_NRCELLDU_HOUR', {STARTROW =>转载 2021-07-29 18:05:14 · 2018 阅读 · 1 评论 -
hbase导出数据到mysql
原问地址:https://www.cnblogs.com/felixzh/p/11362183.html环境:sqoop1.4.6+hadoop2.6+hbase1.1+mysql5.7说明:1.文中的导入导出的表结构借鉴了网上的某篇博客2.mysql导入hbase可以直接通过sqoop进行3.hbase导出到mysql无法直接进行,需要经过hive的中间作用来完成hbase→hive外部表→hive内部表→sqoop导出→mysql一、Sqoop导入hbasea) Mysql...转载 2021-07-29 17:26:55 · 919 阅读 · 0 评论 -
OGG 配置
原文:https://www.cnblogs.com/ZHUJIBlogs/p/8202951.html环境:source 192.168.2.182 :系统:Windows Server 2012oracle: Release 12.1.0.2.0ogg: 12.2.0.2.3target 192.168.2.171:系统:Linux CentOs 7oracle: Release 12.2.0.1.0ogg: 12.3.0.1.0一、配置准备工作:source端:...转载 2021-07-26 15:55:03 · 2675 阅读 · 0 评论 -
OGG进程
原文地址:https://www.cnblogs.com/wukc/p/13722740.htmlGoldenGate主要包含Manager进程、Extract进程、Pump进程、Replicat进程,下面对其一一说明: 1、Manager进程是GoldenGate的控制进程,它主要作用有以下几个方面:启动、监控、重启GoldenGate的其他进程,报告错误及时间,分配数据存储空间,发布阀值报告等。 2、Extract进程运行在数据库源端,负责从源端数据表或日志中捕获数据。Extract...转载 2021-07-13 10:31:08 · 701 阅读 · 0 评论 -
大数据平台运营
原文地址:https://zhidao.baidu.com/question/493679835233063172.html第一个是大数据;第二个是平台,以及大数据平台;第三个是运营,以及运营模式。我们先来看第一个问题,大数据。“大数据”的定义很多,也很泛。但是都没有错,因为出发点不一样。有的站在研究的角度,有的站在学术的角度,有的站在市场的角度,那么比较客观的定义,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。它的特点,首先是它的价值取转载 2021-07-11 21:17:44 · 1040 阅读 · 0 评论 -
Lambda架构
原文地址:https://www.cnblogs.com/xiaodf/p/11642555.html首先我们来看一个典型的互联网大数据平台的架构,如下图所示:在这张架构图中,大数据平台里面向用户的在线业务处理组件用褐色标示出来,这部分是属于互联网在线应用的部分,其他蓝色的部分属于大数据相关组件,使用开源大数据产品或者自己开发相关大数据组件。你可以看到,大数据平台由上到下,可分为三个部分:数据采集、数据处理、数据输出与展示。数据采集将应用程序产生的数据和日志等同步到大数据系统中,由于转载 2021-07-11 10:55:20 · 274 阅读 · 0 评论 -
大数据平台关键功能设计
平台关键功能设计系统功能视图设计承接业务能力视图设计的内容,通过对业务需求点的总结、分析和归纳,提炼出对应的系统功能,形成数据接入管理、数据存储管理、数据加工管理、数据共享管理、运维管理、服务监测管理、基础资源管理和系统管理七大管理功能。 数据接入管理 数据源配置管理 数据源配置管理,配置大数据平台可以接入的数据源,记录数据源相关信息,定期检测数据可用状态,配置信息也可用于资源监视等功能。 接入方式配置管理 接入方式配置管理,配置大数据平台的数据接入方式.原创 2021-02-22 16:21:54 · 934 阅读 · 0 评论 -
大数据平台建设实施方案
实施方案 实施思路 基于平台目标、政策、规划以及现状的了解,建议采用“长期规划,分步实施”的建设思路:长期规划:对数据中心及决策支持系统进行长、中、短期的规划,对于投入小、见效快的内容纳入短期规划,对于难度大,见效慢的内容纳入中长期规划;分步实施:搭建数据中心及决策支持系统基础平台,在基础平台的基础上按照增量建设的方式分阶段实现规划的短、中、长期建设内容。具体来说,“长期规划,分步实施”模式可以带来以下益处:1、项目的长、中、短期规划是对整体目标的分解,有助于把握项目的...原创 2021-02-22 16:21:00 · 7195 阅读 · 0 评论