
GaussDB技术解读
文章平均质量分 94
Gauss松鼠会
深耕数据库10余年,致力于GaussDB、openGauss等数据库技术的学习、探索与传播。
展开
-
【GaussDB迁移攻略】DRS支持CDC,解决大规模数据迁移挑战
DRS支持CDC的数据迁移方案,即CDC通过拉取源库日志,解析成标准的THL格式文件,进行增量数据发布。DRS直接拉取THL文件,进行解析和过滤,实现增量数据回放,有效的降低了多个DRS任务直连源库对源库性能的影响。针对源库数据量级大需要拆分任务迁移(一对多场景),以及对源库性能敏感客户优先推荐使用该方案。原创 2025-05-16 14:39:27 · 907 阅读 · 5 评论 -
GaussDB高安全—全密态数据库
从软硬融合全密态、端侧加密引擎、端侧密钥管理、轻量化语法解析等四方面解读了GaussDB全密态数据库原创 2025-03-14 10:28:59 · 2036 阅读 · 17 评论 -
GaussDB高安全—数据保护:数据透明加密
从数据透明加密方面继续介绍GaussDB数据库的数据保护技术原创 2025-02-21 09:20:19 · 1660 阅读 · 12 评论 -
【GaussTech技术专栏】GaussDB AI大模型在智能运维场景的应用
GaussDB AI大模型能够对数据库的运行状态进行实时监控和智能分析,识别出异常状态并检测可能的故障点,克服传统运维中依赖人工经验、响应速度慢、效率低下等问题,帮助企业更好地应对日益增长的数据挑战,确保业务的连续性和数据的安全性,为数字化转型提供坚实支撑。原创 2025-02-19 10:18:56 · 1121 阅读 · 10 评论 -
GaussDB高级压缩,破解业务数据激增难
GaussDB的高级压缩策略,充分考虑数据生命周期的特性,结合业务架构的固有规律,力求在存储效率、访问性能和系统稳定性等多个关键指标之间找到最佳平衡点。未来,GaussDB将继续根据业务场景的需求,扩展更多高效的压缩解决方案,并引入具有竞争力的新技术。原创 2025-01-24 10:41:58 · 909 阅读 · 8 评论 -
GaussDB事务和并发控制机制
2)T2事务在t2,同时发起向DN1和DN2的读操作(对应read6和read8),DN1和DN2的读事务操作都需要阻塞到写事务结束后,再进行可见性判断,如果写事务最终被回滚时返回的是data_a_v1和data_b_v1,最终被提交时返回的是data_a_v2和data_b_v2,那么,此时T2读取的数据是一致的。在每个事务开始时,复制一份该数组的内容,当事务执行过程中扫描到某一个元组时,需要通过判断该元组中记录的事务号所对应的事务对于查询事务的可见性,来决定该元组是否对查询可见。原创 2025-01-08 09:21:00 · 932 阅读 · 2 评论 -
GaussDB高智能--智能优化器介绍
随着数据库与AI技术结合的越来越紧密,相关技术在学术界的数据库各大顶会中出现井喷现象。如下图所示,从2019年至2022年,AI优化器、AI配置调优、AI存储管理及DB4AI等领域的论文逐年递增,越来越多的技术实现从规则到智能的转换、从人工到自治的转换、从经验到数据的转换、从离线到在线的转换。原创 2024-11-27 16:51:15 · 1383 阅读 · 8 评论 -
GaussDB高智能--库内AI引擎:模型管理&数据集管理
从模型管理与数据集管理两方面,对GaussDB的库内AI引擎进行了详细解读原创 2024-11-22 09:29:59 · 3095 阅读 · 26 评论 -
GaussDB高智能--自治运维技术(下)
内容从索引推荐、分布从索引推荐、分布键推荐、参数调优等三方面继续解读GaussDB的自治运维技术键推荐、参数调优等三方面继续解读GaussDB的自治运维技术原创 2024-10-29 09:34:30 · 1333 阅读 · 27 评论 -
GaussDB高智能--自治运维技术(中)
GaussDB的日志分析功能主要是将非结构化的日志流,转换为时序数据,而后天然地与异常检测等机制进行对接,便于整合完整的异常诊断能力。日志分析功能包括两个关键部分,一个是日志采集模块,另一个是日志分析模块,这两个部分都在日志采集端实现,其整体模块结构图如下原创 2024-10-11 10:34:16 · 1085 阅读 · 2 评论 -
GaussDB高智能--数据库智能化发展史&自治运维技术
云原生为迎接智能化提供了基础条件,智能化是GaussDB的新的牵引方向,两者相辅相成,互相促进。在智能化出现之前,数据库的运维管理主要依赖分层解耦、化繁为简方式来治理,通过人工服务对单点的业务进行管理。但在云化环境中,一个Region纳管上万实例,仅靠人工很难满足业务诉求,这就促成智能与数据库在云原生的架构和应用中释放的新的研发方向。原创 2024-10-08 14:32:26 · 2116 阅读 · 23 评论 -
GaussDB关键技术原理:高弹性(六)
对于同一个库,同一个模式下的两张表:当表1完成扩容而表2未开始扩容时,两个表的位于在不同的组节点(NodeGroup)上,此时对表1,表2执行JOIN操作会造成CN无法利用分布式架构下推JOIN操作到各个DN上执行,而是会生成跨DN的stream计划进行数据重分布后在进行JOIN,大量的跨节点通信导致性能劣化严重,如图5所示。另外,TPC-C还可以通过系统性能价格比(cost-per-tpmC)的方式来体现,即测试系统报价(美元)与流量指标的比值。在获得相同的tpmC值的情况下,系统报价越低越好。原创 2024-09-30 09:29:48 · 2033 阅读 · 18 评论 -
GaussDB关键技术原理:高弹性(五)
本节介绍日志多流技术,hashbucket扩容的思路仍然是基线数据加增量数据,其中基线数据为bucket物理文件和bucket级CLOG文件,增量数据采用搬迁增量XLOG并回放日志的方式进行追增。日志多流只在hashbucket扩容期间动态的产生和使用,扩容框架会根据当前正在搬迁的bucket列表,解析并生成对应的日志流用来进行后续的数据追增。原创 2024-09-18 14:14:11 · 1628 阅读 · 25 评论 -
GaussDB关键技术原理:高弹性(四)
从hashbucket扩容技术方面对GaussDB高弹性能力进行解读原创 2024-09-12 11:08:47 · 1710 阅读 · 21 评论 -
GaussDB关键技术原理:高弹性(三)
从段页式技术方面对GaussDB高弹性能力进行了解读。hashbucket需要对文件进行分片,如果直接对单文件管理的数据文件进行切片,将会产生表数量*1024个文件,在表数量较多的场景下,产生的小文件数量多,导致文件管理系统的压力较大,因此,引入段页式管理,属于一个库表空间下的所有表共同使用一组段页式文件,防止bucket化拆分后小文件多的问题。原创 2024-09-04 11:14:59 · 1523 阅读 · 18 评论 -
GaussDB关键技术原理:高弹性(二)
本篇将从优化器剪枝、执行器两方面继续介绍hashbucket。原创 2024-08-14 10:02:07 · 1541 阅读 · 32 评论 -
GaussDB关键技术原理:高弹性(一)
本篇将分享GaussDB高弹性方面的相关知识,从CBI索引方面对hashbucket展开介绍。原创 2024-08-12 10:09:20 · 1225 阅读 · 15 评论 -
GaussDB关键技术原理|高可用:两地三中心跨Region容灾
本篇将从两地三中心跨Region容灾方面继续解读GaussDB高可用技术。原创 2024-08-05 15:41:39 · 1993 阅读 · 26 评论 -
GaussDB关键技术原理|高可用:逻辑复制
逻辑复制属于数据复制服务(Data Replication Service,简称DRS)一种,是一种易用、稳定、高效的数据库迁移和数据库同步。原创 2024-07-30 10:10:53 · 3657 阅读 · 23 评论 -
【GaussDB关键技术原理|高可用】DCF&双集群容灾
篇将分享GaussDB高可用方面的相关知识,详细介绍GaussDB的DCF与双集群容灾技术。原创 2024-07-22 14:31:38 · 1646 阅读 · 20 评论 -
GaussDB关键技术原理:高性能(五)
本篇将从LLVM动态查询编译执行、SQL-BYPASS执行优化、线程池化、多核处理器优化、日志无锁刷新与多级流水等方面继续介绍GaussDB高性能关键技术,并对高斯数据库性能优化进行总结。原创 2024-07-11 09:46:21 · 1938 阅读 · 20 评论 -
GaussDB关键技术原理:高性能(四)
本篇将从USTORE存储引擎、计划缓存计划技术、数据分区与分区剪枝、列式存储和向量化引擎、SMP并行执行等方面继续介绍GaussDB高性能关键技术。原创 2024-07-05 09:43:07 · 1854 阅读 · 23 评论 -
GaussDB关键技术原理:高性能(三)
本篇将从查询重写RBO、物理优化CBO、分布式优化器、布式执行框架、轻量全局事务管理GTM-lite等五方面对高性能关键技术进行分享。原创 2024-07-01 10:45:18 · 1903 阅读 · 34 评论 -
GaussDB关键技术原理:高性能(二)
本篇将从查询处理综述方面继续分享GaussDB的高性能技术的精彩内容。原创 2024-06-24 09:31:55 · 1690 阅读 · 23 评论 -
GaussDB关键技术原理:高性能(一)
本章不独立于数据库本身,把数据库看成是整个系统软件栈的基础软件层部分,对性能、资源、时延等本质内容进行原理上的说明,把数据库性能优化抽象成为对一般基础软件的研究。原创 2024-06-21 14:43:37 · 1672 阅读 · 17 评论 -
GaussDB技术解读——GaussDB架构介绍(五)
本篇将从关键技术方案的事务存储组件、SQL引擎组件、DCS组件、实时分析组件等方面继续介绍GaussDB云原生架构。原创 2024-06-19 16:07:48 · 5276 阅读 · 30 评论 -
GaussDB技术解读——GaussDB架构介绍(四)
本篇将从云原生关键技术架构&关键技术方案两方面对GaussDB云原生架构展开介绍。原创 2024-06-17 14:45:55 · 2263 阅读 · 21 评论 -
GaussDB技术解读——GaussDB架构介绍(三)
本篇将从智能关键技术方案、驱动接口关键技术方案继续解读GaussDB架构。原创 2024-06-14 09:10:19 · 2439 阅读 · 26 评论 -
GaussDB技术解读——GaussDB架构介绍(二)
本篇将从数据持久化存取层(DataNode)关键技术方案、全局事务管理层(GTM)关键技术方案、集群管理层(CM)关键技术方案、OM运维管理关键技术方案等方面继续解读GaussDB架构。原创 2024-06-11 09:43:35 · 2740 阅读 · 25 评论 -
GaussDB技术解读——GaussDB架构介绍(一)
从本期开始,Gauss松鼠会将陆续推出GaussDB技术解读系列文章,带您了解GaussDB的架构及关键技术原理。本篇将从GaussDB 关键架构目标、GaussDB分布式架构、数据计算路由层(Coordinator)关键技术方案等三方面对GaussDB架构进行介绍。原创 2024-06-06 09:22:42 · 4382 阅读 · 31 评论