自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

Kami‘s home

accumulate richly and break forth vastly

  • 博客(122)
  • 收藏
  • 关注

原创 某电商服务商如何在 5000 TPS 持续写入下实现实时数据同步

某国内头部电商运营服务商提供全周期客户服务与营销自动化服务,长期服务于各类电商品牌企业。围绕电商履约与售前、售后场景,该公司构建了一整套自动化解决方案,包括物流自动化能力、智能工单系统,以及与 ERP 等业务系统的一站式集成。通过将复杂、分散的业务流程系统化、自动化,帮助企业提升履约效率,降低物流与人工成本,同时持续改善消费者体验。在这样的业务定位下,该公司不仅需要处理来自多个电商平台的大规模订单与物流数据,还需要将这些数据实时分发给不同的业务系统使用,这对底层数据架构提出了更高要求。

2026-02-06 11:37:24 567

原创 数据迁移同步工具 CloudCanal v5.4.0.0 发布,支持 Vastbase

免费社区版 是 ClouGence 公司推出的一款全自研、可视化、自动化数据迁移同步工具,具备 结构迁移、数据迁移、数据同步、数据校验、数据订正 等功能,支持 60+ 款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase、PolarDB、TiDB、StarRocks、Doris、RocketMQ、达梦、金仓等。

2026-02-04 17:40:37 590

原创 无需写一行代码,5分钟打通金仓到数仓的实时链路

对于需要将金仓数据库中的数据同步到数仓的场景,CloudCanal 提供了一种可快速上线、运维复杂度较低的方案。在满足基本配置要求的前提下,可以帮助团队快速建立起高效、稳定的数据通道。创建任务。

2026-01-09 16:28:39 912

原创 数据实时迁移同步工具 CloudCanal-v5.3.1.0 发布,支持金仓数据库

2025-12-31 15:46:42 752

原创 打通复杂医疗数据链路:某头部医疗服务商的数据底座落地经验分享

在医疗数字化场景中,数据平台往往需要面对系统复杂、数据体量大、稳定性要求高等多重挑战。该头部医疗数字化服务商的实践表明,选择一款稳定、准确、易运维的数据同步工具,是构建长期可演进数据架构的重要基础。通过 CloudCanal,该团队建立了一套更加稳健的数据同步与数仓体系,为医疗业务分析和监管支持提供了持续可靠的数据能力。

2025-12-25 15:14:39 708

原创 用一条表达式,稳定同步上万张表

基于正则表达式的表名匹配机制,从根本上改变了海量表同步的配置方式。你不再需要管理每张表,而是通过规则来描述同步范围,从而有效解决了表数量大、变化频繁、元数据膨胀等一系列问题。对于正在面对上万张表同步挑战的团队来说,这是一种更加稳定、轻量、也更符合实际需求的解决方案。

2025-12-18 13:53:39 608

原创 从 0 到 1 构建 TDSQL MySQL 实时同步链路

TDSQL MySQL 到 TDSQL MySQL 的数据同步,看似复杂,其实只要用对工具,难度就会骤降。相比花时间自己造轮子,CloudCanal 这样成熟的平台能帮你把结构迁移、全量复制、增量 CDC、断点续传等复杂能力全部工程化,让你的链路稳定可控。不需要写一行代码,你就能获得一条高效、安全的 TDSQL MySQL 实时数据通道。创建任务。

2025-12-11 15:06:43 1162

原创 CloudCanal v5.3.0.0 发布,无惧海量表的数据实时迁移同步

支持 MySQL -> MySQL/StarRocks/Doris/SelectDB/PostgreSQL 表达式表名,可支撑海量表的迁移同步新增 CloudCanal 控制台黑夜模式开放 腾讯云 TDSQL MySQL -> TDSQL MySQL 全量同步 / 增量同步 / 数据校验 / 数据订正 / 结构迁移 / DDL 同步(加列 / 减列 /modify/rename/truncate)支持 AWS RDS Oracle 全量迁移和增量同步。

2025-11-28 16:18:09 789

原创 百草味数据架构升级实践:打造 Always Ready 的企业级数据平台

百草味是国内知名的休闲零食品牌,业务覆盖线上电商平台与线下零售渠道,服务用户超过2 亿。随着商品 SKU 数量剧增和渠道多元化发展,百草味在供应链、运营、销售等环节积累了海量数据,对数据的依赖也日益增强。在这一背景下,百草味选择与CloudCanal合作,构建统一的数据集成平台,支撑数据驱动的业务运营与决策。

2025-11-07 14:35:47 795

原创 轻量安全、开箱即用:0 成本开启数据实时同步

想要跨云、跨地域同步数据,但部署太繁琐、网络配置太复杂,成本太高?现在,这一切都不再是问题。

2025-10-15 15:04:33 638

原创 数据实时迁移同步工具 CloudCanal v5.2.0.0 发布,支持 SaaS 全托管

CloudCanal 是一款国产可视化、自动化端到端数据实时迁移同步工具,具备等功能,支持款流行关系型数据库、实时数仓、消息中间件、缓存数据库和搜索引擎之间数据互通,其中包含国产数据库 OceanBase、PolarDB、TiDB、StarRocks、Doris、RocketMQ 等。

2025-10-13 09:54:59 1124

原创 数据湖技术选型指南:Iceberg vs Delta Lake vs Paimon

摘要:主流开源数据湖格式对比分析 本文对比了三种主流开源数据湖格式(Iceberg、Delta Lake、Paimon)的核心原理与实现差异。

2025-09-25 10:51:22 927

原创 5 分钟上手 OceanBase:用 CloudDM 轻松搞定可视化管理

借助 CloudDM 的可视化操作,我们可以在 OceanBase 上快速完成从建表到高级对象管理的全流程,通过直观的表单输入形式降低了 SQL 的学习和使用门槛,提升了工作效率。未来,我们还会分享 CloudDM 在更多数据库场景下的可视化与自动化能力,帮助 DBA 和开发更轻松地管理数据库对象。

2025-09-19 17:00:54 763

原创 CloudCanal + Paimon + SelectDB 从 0 到 1 构建实时湖仓

本文介绍了实时湖仓一体的技术架构,通过整合CloudCanal、Paimon和SelectDB三大组件,构建从数据采集到实时分析的完整闭环。相比传统湖仓分离模式,该方案具有低延迟、低成本、灵活扩展等优势,支持秒级实时分析。文章详细阐述了技术背景、协同优势、典型应用场景及实操步骤,展示了如何实现从MySQL数据实时同步到Paimon存储,再通过SelectDB进行实时查询的全过程。这种架构特别适合需要实时分析的业务场景,如电商用户行为分析。

2025-09-17 16:07:17 1111

原创 Redis 双向同步如何避免循环?【附实操演示】

本文探讨了Redis双向同步中的关键问题——如何避免数据循环。介绍了两种解决方案:辅助标记模式通过额外指令防循环,实现简单但性能开销大;事务标记模式利用Redis事务特性,性能更优但仅适用于单点/主从场景。文章还包含实操演示和效果验证,推荐主从场景采用事务标记方案,集群场景考虑辅助标记。CloudCanal支持两种方案,可根据需求选择。

2025-09-09 17:17:33 746

原创 Kafka vs RabbitMQ vs RocketMQ vs Pulsar:四大开源消息中间件全面对比

特性KafkaRabbitMQRocketMQPulsar实现语言Java/ScalaErlangJavaJava消费模式PullPushPull吞吐量极高一般较高较高延迟低极低,在高吞吐量情况下会受限低低消息堆积能力极强(长期存储可回放)较弱强强(分层存储,云原生)扩展性极强,分区扩展一般,受限于集群和硬件资源较强极强,计算存储分离可靠性极高,多副本高,Quorum Queue 提升可靠性较高,DLedger 提高主从切换容错。

2025-09-02 12:10:03 1213

原创 国产数据库管理工具 CloudDM 2.7.1.0 发布,OceanBase 等数据源支持复杂 SQL 脱敏数据

是 ClouGence 公司推出的面向团队使用的数据库管理工具,支持云上、云下、多云等多种环境,并且提供多达 23 种数据源的支持。CloudDM 还支持数据库 DevOps CI/CD 功能,将用户产品发布流程中数据库发布和程序发布无缝串联起来。

2025-08-21 10:26:17 1147

原创 CloudDM 新增支持 GaussDB 与 openGauss:国产数据库管理更高效

CloudDM是一款面向团队协作的多数据库管理工具,专为开发、DBA 等不同角色的使用需求设计。在企业级数据管理中,CloudDM 坚持安全性、稳定性、优质用户体验三大原则,为团队提供可靠、高效、便捷的团队协作体验。精准 SQL 解析适配 GaussDB 与 openGauss 的 SQL 语法特性,SQL 编辑器具备智能补全、语法高亮等功能,使用更顺畅。多角色协作权限控制针对开发、DBA 等不同角色,提供细粒度权限策略,既保证操作效率,又防止越权访问。数据安全与合规保障。

2025-08-19 15:53:47 860

原创 构建秒级响应的实时数据架构

在数据驱动业务已成常态的今天,越来越多企业正在寻求更高性能、更低成本、更简化的数据流通路径。但现实中,从数据库变更同步(CDC),到消息中间件的传输,再到实时计算与分析平台,传统链路往往。针对这一挑战,,推出全链路实时数据流通解决方案,以全自动化 CDC 工具+ 云原生 Kafka 架构为核心,帮助企业轻松打通从业务数据库到实时计算的全流程数据链路,实现数据同步、传输、消费的全自动、高性能与低延迟。

2025-08-11 10:24:47 1133

原创 从达梦到 StarRocks:国产数据库实时入仓实践

在国产化环境下,达梦与 StarRocks 之间的数据集成存在诸多挑战,特别是在实时性、兼容性与稳定性方面。CloudCanal 基于 CDC 技术,提供了面向达梦数据库的实时同步能力,支持表级位点、DDL 兼容性处理等关键能力,助力企业在国产化技术体系中构建稳定、可持续的实时分析平台。

2025-08-05 11:50:44 1389

原创 RAG 青铜升级:知识库召回率优化实战攻略

召回率决定了 RAG 系统的检索表现,也影响最终生成结果的准确性,只有策略得当、工具可靠,才能构建真正智能的问答能力。通过,可在更短周期内,以更简单的方式实现更高检索质量的知识库,为企业打造实用、可信的 AI 应用打下坚实基础。

2025-07-25 16:24:33 865

原创 不用写 Flink!轻松搭建实时湖仓一体架构

Apache Paimon 是一个开源的、面向流计算的湖仓存储格式,源于 Apache Flink 社区(原 Flink Table Store)。它的核心创新在于将湖存储格式与日志结构合并树(LSM-tree)技术融合,为数据湖带来了强大的实时流式更新能力,这使得高吞吐、低延迟的数据摄取、变更日志追踪和高效的即时分析成为可能。Apache Paimon 以其创新的实时更新能力,为现代数据湖仓架构注入了新的活力,而的组合,则通过零代码、自动化的方式,快速落地高性能的实时湖仓,最后与StarRocks。

2025-07-18 12:03:10 1168

原创 大规模数据迁移太慢了?试试这几种方法

数据迁移看似简单,但在规模巨大、时间有限的条件下,难度会大幅度上升,选择合适的处理策略和技术,辅助工具使用以提升目标达成率。最后如果你正面对此类场景,不妨试试 CloudCanal 任务组能力,相信对你的工作会有所帮助。

2025-07-11 14:13:03 1063

原创 深入浅出数据库宽表

简要探讨宽表技术的来龙去脉,以及它如何帮助解决多表关联带来的性能瓶颈,并结合 CloudCanal 最新推出的可视化宽表构建功能,无痛实现跨表数据的实时整合

2025-07-04 11:33:36 763

原创 Redis 数据迁移同步:应对大 Key 同步挑战

通过延迟加载与分片同步机制,CloudCanal 有效避免全量同步过程中可能出现的 OOM 问题和协议限制问题,从而提升全量同步的稳定性和可靠性。

2025-06-27 11:14:49 860

原创 RAG 升级之路:如何让问答机器人真正“智能”起来

传统 RAG 偏向“被动检索”,而 CloudCanal RAG 通过一系列优化措施,让 RAG 应用走向“主动理解 + 智能编排”。从模糊提问中提炼用户真实意图从上下文中构建精准查询路径从海量信息中筛选最关键事实它不仅能找答案,更能理解问题、规划流程、控制输出,为企业级 RAG 问答系统提供真正可落地的技术方案。

2025-06-20 13:33:41 1200

原创 数据实时同步 FAQ(一):如何选型、控制延迟、防丢数据?

在数据迁移同步领域,常常会碰到客户咨询相似的问题,我们也从自身实践经验出发,给到合适的答复,回答次数多了,就想着通过文字固化,方便后续应对这些需求。本文即该系列第一篇,有回答偏颇之处,还望见谅,权当博君一笑。本期问题目录数据库官方工具与第三方工具如何选择?业务能依赖实时同步工具的延迟吗?数据库实时同步工具为业务带来的真正价值是什么?同步工具如何确保长期稳定性与数据完整性?

2025-06-13 14:02:00 603

原创 跨洲际数据迁移同步实战:从技术原理到调优对比

在长期支持企业数据迁移同步的过程中,CloudCanal经常碰到跨省、跨国乃至跨洲的业务需求。部署 CloudCanal 的最佳方案是什么?虽然我们从产品技术角度能够提供一些建议,但实际情况往往比较复杂。本文将基于理论与实践,深入探讨跨洲际数据迁移同步的最佳实践方案。

2025-06-06 14:08:35 687

原创 MySQL + CloudCanal + Iceberg + StarRocks 构建全栈数据服务

Iceberg 是一种开放的数据表格式,包含Catalog和数据存储两种子概念。Catalog可简单理解为对数据的结构描述,如表列表、对应的表属性、包含的列、列类型、列长度等信息,这也是之所以为表格的原因。数据存储即以上Catalog 数据以及实际业务数据所组成的文件存放位置。通过 CloudCanal,你可以轻松打通 MySQL 与 Iceberg 之间的实时同步通道,并结合 StarRocks 实现高效查询,实现实时数据服务闭环,打造真正的全栈数据结构解决方案。创建任务。

2025-05-30 10:30:29 1403

原创 CloudCanal RAG x Ollama 构建全栈私有 AI 服务

企业级 RAG 服务强调端到端的集成能力、安全可控以及对业务系统的适配性。它不仅能实现基于知识的智能问答,还能提供高可靠、高安全、高扩展的服务。在保护企业数据的前提下,真正服务于业务流程的自动化与智能化。技术栈全私有,部署可控服务能够完全运行在本地数据中心或私有云环境中,避免数据外泄风险,满足对数据合规性要求较高的行业需求。数据来源多样,格式丰富不局限于文本文件类型,还支持数据库等多种数据来源,实现真正的“全域知识接入”。支持增量数据同步,确保时效性与一致性。

2025-05-23 16:16:03 1344

原创 零代码构建 RAG 私有知识问答服务

经过简单的几步,我们完成了从零构建 RagApi 服务的全过程:从数据向量化、接入向量库、配置大模型、构建 Prompt,到部署兼容 OpenAI 接口的对话服务 RagApi。整个过程无需编写任何代码,借助CloudCanal提供的可视化平台和多模型支持,企业可以快速构建具备私有知识问答能力的智能服务。

2025-05-23 16:08:35 1043

原创 深入浅出 GenAI 关键概念 —— 从 RAG、Function Calling、MCP 到 AI Agent

随着大语言模型飞速演进,其在知识时效、生成准确性以及与外部系统交互方面的局限也愈发显现。为此,检索增强生成(RAG)、函数调用(Function Calling)、模型上下文协议(MCP)与 AI 智能体(AI Agent)等一系列技术相继涌现,为模型补足“知识新鲜度”与“操作执行力”。近期 CloudCanal 也推出了 RagApi 功能,并引入了 MCP 协议。

2025-05-12 13:49:42 927

原创 CloudCanal v4.7.0.0 发布,支持 PG 向量结合大模型提供 RAG 服务

2025-04-02 09:47:47 937

原创 无需写代码,在数据同步中实现实时脱敏

在数据同步时做好脱敏处理,提高数据安全性,避免敏感信息泄露,同时提升企业的运营效率,整个数据处理流程更高效顺滑。CloudCanal 提供了内置的数据脱敏脚本,可一键完成基本的数据脱敏操作,让数据脱敏更简单。

2025-03-28 14:06:42 751

原创 时序数据库 TDengine 到 MySQL 数据迁移同步

TDengine 适用于高吞吐的时序数据存储与查询,而 MySQL 适用于事务处理和复杂查询。使用CloudCanal进行 TDengine 到 MySQL 数据迁移同步,能够兼顾时序数据的高效存储与业务数据的灵活分析,从而实现时序数据价值的最大化。创建任务异步任务修改任务参数。

2025-03-14 13:47:47 1707

原创 使用 CloudDM 和企业微信流程化管理数据库变更审批

是一个专为团队协同工作打造的数据库数据管控平台。在管控数据库安全变更的过程中,为提高效率,方便用户使用,CloudDM 接入了主流 OA 协同办公系统(包括钉钉、飞书、企业微信),支持实时通知与移动办公,满足广大企业用户的实际需求。本文将介绍如何使用 CloudDM 和企业微信实现高效的数据库变更审批。

2025-03-06 13:55:49 1404

原创 使用 CloudDM 可视化操作 MySQL

CloudDM 个人版是 ClouGence 公司推出的一款一站式数据库管理工具,可以方便地访问和管理 MySQL、Oracle、PostgreSQL、阿里云 RDS、Greenplum、TiDB、Redis、StarRocks、Doris、SelectDB、SQL Server、ClickHouse、OceanBase 、PolarDB-X 、IBM Db2 等多种不同类型的数据库。通过 CloudDM 丰富的数据源支持可以避免在多个专业工具之间切换,从而提高工作效率。

2025-02-28 11:47:36 1263

原创 使用 CloudDM 和飞书流程化管理数据库变更审批

在。

2025-02-20 13:57:21 1543

原创 一款利器提升 StarRocks 表结构设计效率

本文我们介绍了如何使用 CloudDM 个人版可视化设计 StarRocks 表、查看索引以及区分外部表。

2025-02-14 14:56:22 871

原创 使用 CloudDM 和钉钉流程化管理数据库变更审批

是一个专为团队协同工作打造的数据库数据管控平台。在管控数据库安全变更的过程中,为提高效率,CloudDM 接入了钉钉,支持实时通知与移动办公,满足广大企业用户的实际需求。本文将介绍如何使用 CloudDM 和钉钉实现高效的数据库变更审批。

2025-02-08 10:15:27 946

空空如也

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除