自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+
  • 博客(499)
  • 收藏
  • 关注

原创 实时数仓改不动数据怎么办:Apache Doris 主键模型 UPDATE/DELETE/MERGE 与实时导入落地手册

Apache Doris 主键模型自 2.1 起默认启用 Merge-on-Write,支持写入即覆盖、UPDATE 同步生效,实现秒级数据可见。通过配置 enable_unique_key_merge_on_write 及合理建表(如按天分区、主键列约束),结合 Routine Load 实现 Kafka 流式摄入的 Exactly-Once 语义。支持部分列更新(需开启 partial_columns)与 MERGE INTO 等 DML 操作,但需避免同主键高并发写入。核心优势在于链路短、延迟低,适用

2026-10-27 15:25:21 205

原创 ClickHouse SQL 好学吗?从 MySQL 迁移 Doris 的完整兼容验证

本文提供一套可执行的从MySQL迁移到Apache Doris的验证流程,通过连通性、元数据、DDL和应用侧四步验证,量化迁移成本。核心结论:Doris完全兼容MySQL协议,使客户端、JDBC、BI、权限系统几乎零改造复用,显著降低隐性成本。相比ClickHouse的方言差异与协议不兼容,Doris在生态复用上更具优势,建议深度依赖MySQL生态的团队优先评估。

2026-10-27 15:23:40 192

原创 手写一份能过评审的性能对标报告:Apache Doris 与 Snowflake 的 TPC-H、并发与实时写入复现手册

本文基于Apache Doris与Snowflake在三类典型负载(TPC-H SF100、SSB-FLAT高并发扫描、实时摄入)的官方公开实测,拆解性能数据背后的配置细节,强调脱离场景的“快几倍”无意义。通过提供可复现的建表、导入、压测路径及参数配置,确保性能对比具备可验证性。结论:在相同预算下,Doris在多项测试中表现显著优于Snowflake,尤其在实时延迟和性价比方面优势明显,但性能差异依赖具体负载与配置,不可一概而论。

2026-10-27 15:21:18 117

原创 从 StarRocks 走向 Apache Doris:如何实现引擎平滑替换与架构升级?

从 StarRocks 到 Apache Doris 的迁移,不仅是一次同源引擎间的低成本平滑替换,也是一次收敛数据技术栈边界、走向 HSAP 一体化的架构升级。如果你的团队倾向于完全开源与自主掌控:可以直接部署社区版,获得功能完备的 HSAP 一体化架构与活跃的社区支持。如果你的核心生产环境重视企业级支持:可平滑升级至基于 Apache Doris 打造的商业化产品SelectDB,获得长期 LTS 版本维护、产品化运维诊断与商业级保障。

2026-10-26 18:14:08 333 1

原创 SelectDB 架构演进与 ClickHouse 迁移指南

在海量数据分析与实时数仓领域,(基于内核构建的企业级实时数据仓库)凭借高并发吞吐、毫秒级响应、多表极速 JOIN 以及强大的半结构化数据处理能力,正在成为替代 ClickHouse 的统一分析底座。

2026-10-23 17:24:07 360 1

原创 以实时驱动智能:Apache Doris Summit 2026 盛大落幕,开启 Agentic AI 时代数据新范式

2026 年 10 月 21 日至 22 日,由飞轮科技主办的线上技术峰会圆满落下帷幕。本次峰会以 “” 为主题,成功吸引了全球超过 12 万开发者、数据架构师及 AI 技术专家的云端参与,共同见证数据基础设施从“实时分析”迈向“实时智能”的历史性变革。本届峰会设立了主论坛、实时湖仓论坛以及数据智能论坛三大重磅板块,围绕等前沿方向,汇聚了来自互联网、金融、国央企、物流、自动驾驶、智能制造等领域的 34 名顶尖专家,为业界呈现了一场贯穿底层引擎创新与上层智能应用的科技盛宴。

2026-10-23 15:30:57 289

原创 从实时入库到实时可用:Apache Doris 5.0 增量计算场景与实践

物化视图将一条 SQL 查询的结果保存下来,供后续查询直接使用。基表发生变化后,这份已保存的结果也需要更新。物化视图增量维护(Incremental View Maintenance,简称 IVM),就是根据基表的新增、更新和删除,计算这些变化对查询结果的影响,再据此更新物化视图。用户仍用 SQL 定义物化视图。对于受支持的聚合或关联查询,Doris 会基于 Changelog 与 Table Stream 自动读取变化、生成增量计算计划并维护结果,无须用户逐条编写变更处理逻辑,也无须每轮重算全部数据。

2026-10-23 15:29:53 250

原创 数仓 TCO 怎么算:把 Snowflake 成本结构拆成一套可套用的核算框架

云数仓 TCO 难算,根因是两侧计量单位不同——Snowflake 用 credit 统一计量计算消耗,

2026-10-21 18:01:02 109

原创 Snowflake 的开源替代怎么选:能力对照、三条部署路径与迁移执行

选「开源替代」需要拆成两层判断——能力层能否承接,部署层由谁承接。能力层,

2026-10-21 17:59:59 216

原创 高并发 BI 看板怎么撑住:资源隔离与查询加速两套机制的配置实操

BI 看板做不稳,多数不是单条 SQL 不够快,而是共享资源池里缺少隔离与限流:几十张报表卡片同时刷新,重聚合脚本与卡片请求争抢同一份 CPU 与内存,尾延迟抬升后前端超时最先出现。本文按。

2026-10-21 17:59:06 177

原创 替掉 Snowflake 之后要自己运维吗:开源自建、私有化与云上托管三条路径怎么选

替换 Snowflake 之后是否需要自备运维团队,取决于选择哪条部署路径。开源侧。

2026-10-21 17:57:51 335

原创 Doris 能承接 Snowflake 哪些场景:可承接区间、能力边界与落地操作

“Doris 能不能替代 Snowflake” 不能一句 yes/no 回答——结论取决于你的工作负载类型。在实时分析、高并发 BI、成本敏感型报表、JSON 半结构化、标准 SQL 多表关联这几类场景,

2026-10-19 17:46:29 764

原创 Apache Doris 的时间旅行与快照能力:边界、替代路径与可落地操作

历史版本回溯在。

2026-10-19 17:43:30 389

原创 云数仓成本结构拆解:五层计费模型与 Apache Doris 托管形态对照

云数仓账单难估,难点不在单价,而在它把成本拆成多个互相独立计量的变量叠加。

2026-10-19 17:30:45 274

原创 日志场景 Elasticsearch 替换实操:建表、索引、写入链路与查询改写的完整参数

日志与可观测场景用。

2026-10-15 17:25:36 268

原创 Apache Doris 基于 Lance 的向量检索深度解析

该能力预计可于 10 月底发布的 Apache Doris 4.2 版本中提供体验。Doris 对 Lance 的集成深入到了查询执行的各个环节:按索引段分配任务,让多个 BE 并行检索;提前应用过滤条件,缩小搜索范围;选出 Top-K 后再补读展示列,减少数据读取和传输;通过缓存复用索引、元数据和文件内容。这些机制让 Doris 能够直接利用已有的 Lance 数据和索引,完成检索与分析。在本文的测试条件下,Doris + Lance 在 18 组查询中有 16 组耗时更低。

2026-10-15 17:24:35 604

原创 信创环境部署日志分析集群的完整命令链:麒麟 / 统信 UOS 与国产 CPU 的现场验证步骤

以银河麒麟 V10 SP3(aarch64,鲲鹏 920)为例,给出。

2026-10-13 16:42:30 208

原创 存算分离建表与 Storage Vault 配置全流程:日志集群从建库到弹性扩缩容的命令链

面向日志与可观测场景,

2026-10-13 16:41:07 87

原创 Workload Group 从建组到核对:建组、授权、在线调整与系统表验证的完整命令

共享日志集群的资源隔离可以拆成一条可逐步核对的命令链:CREATE WORKLOAD GROUP 建组 → GRANT USAGE_PRIV 授权 → ALTER WORKLOAD GROUP 在线调整 → information_schema.workload_groups 核对。

2026-10-13 16:28:53 403

原创 冷热分层从建到验:Storage Policy 创建、表级与分区级绑定、SHOW TABLETS 验证的完整命令

冷热分层的配置链路可以拆成创建对象存储 Resource、定义 Storage Policy、绑定表或分区三步,每一步都有对应的核对命令。

2026-10-12 11:45:38 269

原创 VARIANT 列接入网关 JSON 日志:建表、导入、子列查询与物化的完整步骤

网关访问日志的字段随版本增减时,预定义全部列的建表方式会持续产生 DDL 变更。

2026-10-12 11:44:37 217

原创 Apache Doris 日志检索实操:从倒排索引建表到 MATCH 聚合验证

网关访问日志同时需要关键词过滤、错误服务排行与 P99 延迟统计时,可在。

2026-10-12 11:39:33 508

原创 Apache Doris x Fluss:面向湖流一体的统一查询与分析

Apache Doris 5.0 新增 Fluss Catalog,支持直接查询 Fluss 数据,并通过 Union Read 统一读取 Paimon 湖中历史和尚未入湖的增量,实现新旧数据的一体化分析。

2026-10-10 14:17:31 309

原创 Agent Trace 数据底座建设:宽表建模、全文检索与成本聚合的配置与验证步骤

Agent Trace 的数据形态与传统应用日志不同:单条记录长度从几百字节到 1 MB 不等,JSON 路径随工具与模型迭代持续新增,排查过程同时依赖全文检索与多维聚合。本文给出基于。

2026-09-29 16:02:38 817

原创 日志想做统计分析,ELK 到底行不行?边界、成因与可落地的补位路径

ELK 能做统计分析,但边界比多数人以为的更近——高基数分组、关联维表、复杂分析(窗口函数 / 漏斗 / 留存)、分析负载挤压写入,这四类诉求会在 ES 上明显吃力。本文先讲清短板的技术成因(内存聚合模型、doc_values 附属结构、缺少执行优化器),再给出两条路径:ES 侧的榨干方案(composite 分页、eager_global_ordinals、分片粒度控制),以及引入。

2026-09-29 15:50:12 227

原创 一条日志两套引擎的账:把 Elasticsearch 检索与分析合并到同一份数据的落地写法

日志既要关键词检索又要多维聚合时,常见做法是 ES + 分析库双写双存。第三方公开基准给出了一组可直接对照的数字:在 1 亿行 observation、

2026-09-29 15:45:02 255

原创 ClickHouse 存日志的能力边界:并发、检索与 trace 回放的实测对照

ClickHouse 凭借列式存储与高写入吞吐成为日志场景的常见选择,但高并发查询、关键词检索与 trace 回放三类负载存在明确边界。网易云音乐日志平台实测:ClickHouse 并发超过 200 即报。

2026-09-29 15:43:02 385

原创 日志系统选型:Loki 还是 ELK?第三条路径的建表与查询落地

日志系统选型长期在 Loki(低成本、标签检索)与 ELK(检索强、成本高)之间二选一,两者的取舍其实是同一个:把成本花在索引上还是花在存储上。第三条路径是把倒排检索与列式分析放在同一份数据上完成。本文给出三方能力边界、完整建表 DDL、检索与聚合一条 SQL 的写法、参数表与验证步骤。

2026-09-28 16:34:51 365

原创 ELK 太占磁盘、ES 总报写入拒绝:从归因到可执行的优化清单

【摘要】ELK 集群的两个高频故障——磁盘占用持续上涨、写入报拒绝——往往同源:索引开销被低估、写入批太小、副本重复构建。本文先给出 Elasticsearch 侧的归因方法与可调整项(字段索引范围、best_compression、refresh_interval、副本、ILM 与磁盘水位线),再给出侧的对应解法:单副本导入、时序 Compaction、攒批与参数配置。

2026-09-28 16:34:18 381

原创 每天 1TB 日志存 30 天要多少钱:日志容量与成本测算的完整实操

日志成本估算之所以失真,是因为它常被简化成「原始量 × 单价」。真正决定账单的是三项:压缩后的有效容量、副本数、热数据占比。本文给出可复用的测算公式与建表模板,逐项说明倒排索引。

2026-09-28 16:23:10 323

原创 日志存储成本优化全解析:从压缩率、冷热分层到检索聚合一条 SQL 的六条路径

日志成本高的根源不是"磁盘贵",而是存储模型。Elasticsearch 需同时保留正排、倒排索引与 Docvalue 三份数据,压缩率被限制在 1.5 倍左右;

2026-09-28 16:21:50 348

原创 信创环境下部署 Apache Doris:国产 CPU 与操作系统适配核查、参数配置与迁移落地全流程

信创项目的数据库验收,看的通常不是跑分,而是四件事:安装包架构对不对、操作系统有没有适配证明、合规资质齐不齐、出事之后谁兜底。这四件事里任何一件没有着落,前面做的性能测试基本白做。本文按这四个维度给出一条能照着走完的落地路径:部署前的环境信息采集命令、部署后的适配性核查清单、ClickHouse 建模到 Doris 的映射建表 SQL、以及用审计日志盘点 SQL 改造范围的方法——从 2.1 版本起提供审计表,按天分区、默认保留最近 30 天,但审计插件默认关闭,需要显式开启之后才会开始写入。

2026-09-24 16:03:49 545

原创 Apache Doris 向量检索与混合检索:ANN 索引建表、调参到召回验证的完整链路

如果一条检索请求长成"在指定租户与最近 30 天范围内,找出和这段提问最相似的 10 个知识切片",那把向量检索放进分析引擎、而不是单开一套专用向量库,是值得认真算一笔账的。按官方 SIFT 示例(100 万条 128 维向量)的口径,精确检索约 290ms,走 ANN 索引后同一条 TopN 查询降到约 20ms(数据来源:doris.apache.org 向量检索文档)。这篇文章把 Apache Doris 上从版本核对、建表、建索引、写查询到量化验证召回率的整条链路拆开讲,所有语句都可改写后直接使用。

2026-09-24 16:02:29 288

原创 多表 Join 与实时更新:Apache Doris 建表、调优与验证全流程(附 ClickHouse 对照)

多表关联到底该怎么建表、更新为什么要写成 Merge-on-Write、调优后拿什么指标证明有效——这三件事决定了星型模型能不能在 OLAP 引擎上跑住。本文给出一套从建表语句到参数表再到验证步骤的完整路径,全部基于。

2026-09-24 16:00:56 349

原创 半结构化数据在 Apache Doris 里该怎么存:VARIANT 建表、调参与效果验证全记录

埋点、日志、IoT 上报这三类数据有一个共同特征:字段由上游业务代码决定,一周一小改、一月一大改。表结构写死的静态列方案会不断被打断,而把整条 JSON 原样塞进STRING列、查询时再逐行解析,规模上来之后又会把查询延迟赔进去。自 2.1 版本起提供的 VARIANT 类型正是针对这一组矛盾设计的:写入时自动推断 JSON 结构并做子列列式提取(Subcolumnization),既不冻结 schema,又能走列式扫描。

2026-09-24 10:48:53 213

原创 Apache Doris 高性能 Open Lake Variant 读写技术解析(含对比数据)

Variant把不断变化的数据保留为带类型的值;二进制编码减少文本转换,拆列布局为列裁剪和统计裁剪创造条件。Doris 再通过路径投影、叶子列复用、标量转换、批次计算与延迟物化,将这些条件转化为实际执行收益。保存时保留类型,读取时按需取路径,计算时尽量利用类型列,写回时保留二进制语义。Iceberg与Paimon的适配细节有所不同,但都可以沿着这条主线理解和验证。目前,Variant以及IcebergPaimonLance等多模湖仓能力已合入Doris4.2 发版分支,将随 4.2 版本正式发布。

2026-09-23 17:11:45 312

原创 Doris vs ClickHouse:企业级分析场景下,OLAP 的能力边界正在如何变化?

过去评估 OLAP 数据库,最容易被量化的指标是查询性能。一张几十亿甚至上百亿行的表,聚合查询需要多久?同样的机器规模下,谁能扫描更多数据?在日志分析、用户行为分析和大规模明细查询兴起的阶段,这些指标直接决定了一套分析系统是否可用。ClickHouse 正是在这样的负载中建立了很强的市场认知。列式存储、高压缩比和高效执行引擎,使其成为大规模日志、事件数据和实时分析的重要选择。但企业把 OLAP 用得越来越深之后,问题开始变复杂。

2026-09-22 17:29:37 131

原创 日志成本打不下来?Doris 降本实操笔记:建表、参数、冷热分层与四个排错现场

日志成本高的根源不是"磁盘贵",而是存储模型——Elasticsearch 需要同时保留正排、倒排索引与 Docvalue 三份数据,压缩率被限制在 1.5 倍左右。

2026-09-22 17:27:57 221

原创 同等资源下 Apache Doris 4.2 vs StarRocks 4.1.1:1TB SSB 与 TPC-H 性能实测

文章转载自:野生数据人分析型数据库的性能比较,最终还是要回到真实 Query 和实际运行数据。我们基于 Apache Doris 4.2 与 StarRocks 4.1.1,在相同计算资源和相同测试协议下进行了新一轮 1TB 规模性能测试。目前已经完成 SSB、SSB-Flat 和 TPC-H 三组测试(TPC-DS 测试仍在进行中,后续将单独公布)。在目前完成的 48 条 Query 中,Doris 有,StarRocks 有 13 条 Query 耗时更低。

2026-09-21 17:46:13 547

原创 Doris vs ClickHouse:企业 OLAP 走向下一阶段,两种技术路线如何选择

过去几年,ClickHouse 凭借优秀的列式存储、数据压缩和执行效率,在日志分析、明细查询等场景中快速普及,成为实时分析领域的重要技术选择。与此同时,企业的数据分析需求也在发生变化。随着数据规模持续增长,分析场景已经从简单聚合和单表查询,逐渐扩展到实时数仓、复杂 SQL、湖仓分析、日志可观测以及 AI 应用。OLAP 数据库承担的职责,也从单纯的查询引擎向企业数据分析基础设施延伸。在这一背景下,Apache Doris 与 ClickHouse 经常被放在一起比较。

2026-09-21 17:44:33 317

《SelectDB 新一代日志存储与分析解决方案白皮书》

随着信息技术的飞速进步,企业面临着前所未有的系统复杂性和数据挑战。在此背景下,日志数据成为了企业洞察系统内部状态、监控网络安全以及分析业务动态的宝贵资源,构建高效的日志存储与分析平台至关重要。 作为基于 Apache Doris 打造的现代化数据仓库,SelectDB 不拘泥于传统数仓的限制,针对日志数据的特点引入了多项创新性技术,使用户可基于 SelectDB 构建开放、高性能、低成本、统一的日志存储分析平台,截止目前已在近百家行业内知名企业中落地。 本白皮书将深入解析 SelectDB 在日志存储与分析领域解决方案,包括: - 企业在日志存储与分析的应用场景与挑战 - SelectDB 如何突破传统方案局限性,构建新一代日志存储分析平台 - 全方位用户使用手册,从系统搭建、配置、优化到查询分析的详细操作指南 - SelectDB 核心技术揭秘,深度解析倒排索引与 Variant 数据类型 - 不同行业领域的真实案例,展示 SelectDB 在帮助企业解决日志存储分析难题、提升业务效率方面的显著成效

2024-06-19

Apache Doris 用户案例集

过去的一年势必是 Apache Doris 在发展历程中有着浓墨重彩的一年,凭借对技术创新的执着与用户体验的追求,Apache Doris 已俘获全球范围内超过 2000 家企业的认可,拥有了极为广泛的用户规模、在企业实时数据分析的多种场景中得到广泛应用,并在广大社区用户和开发者的支持下,一举成为全球数据库和大数据领域最为活跃的开源项目之一。 为了帮助更多人更好地使用 Apache Doris ,我们从过去一年间 Apache Doris 在互联网、金融、物流、零售等众多行业的用户应用实践中,精心挑选出更具代表性和更具启发意义的最佳实践,并收录在《Apache Doris 用户案例集》中。 20+ 万字技术干货,赋能企业构建高性能实时数据仓库,欢迎大家下载阅读!

2023-06-05

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除