Elasticsearch数据建模最佳实践

本文探讨了Elasticsearch中的关键建模策略,包括处理关联关系、避免过多字段、正则查询、空值聚合问题及mappings的meta信息管理。提供了Denormalization、Nested对象、字段限制、字符串转对象等具体解决方案。
摘要由CSDN通过智能技术生成
建模建议一:处理关联关系
  • Object:优先考虑Denormalization
  • Nested:当数据包含多数值对象(1:n),同时有查询需求
  • Parent/Child:关联文档更新非常频繁

PS:Kibana暂时不支持Nested类型和Parent/Child类型,如果需要使用Kibana进行数据分析则需要作出取舍

建模建议二:避免过多字段
  • 字段过多不易维护,mappings信息保存在Cluster state中,数据量过大对集群性能可能会有影响(Cluster
    State需要在所有节点间同步)
  • 默认最大字段数是1000,可以设置index.mapping.total_fields.limt限定最大字段数
  • 使用 Nested 对象解决动态加入新字段导致mappings不断膨胀

PS:通过Nested对象保存key/value的一些不足:可以减少字段数量,解决cluster state中保存过多meta信息的问题,但是会导致查询语句复杂度增加,Nested对象不利于在Kibana中实现可视化分析

建模建议三:避免正则查询
  • 正则、通配符查询、前缀查询属于Term查询,但是性能不够好,特别是将通配符放在开头

PS:解决方法:将字符串转换为对象

建模建议四:避免空值引起的聚合不准

PS:解决方法:将空值设置个默认值(null_value)

建模建议五:为索引的mappings加入meta信息
  • mappings设置非常重要,需要从两个维度进行考虑:功能(搜索、排序、聚合);性能(存储的开销,内存的开销,搜索的性能)
  • Mappings设置是一个迭代的过程:加入新的字段很容易(必要时需要update_by_query);更新删除字段不允许(需要reindex重建数据);最好能对mappings加入meta信息,更好的进行版本管理

PS:建议将mappings文件上传git进行管理

1、Elasticsearch 7.X 进阶实战大纲10个大选题来源于实战业务场景的提炼、总结。Elasticsearch 全貌认知Elasticsearch 索引创建和搜索原理Elasticsearch 集群规划及节点角色规划最佳实践Elasticsearch 集群性能调优及原理Elasticsearch 数据建模实例讲解与实战技巧Elasticsearch 冷温热架构讲解与实战Elasticsearch ILM 索引生命周期管理讲解与实战Elasticsearch CCS 跨集群搜索讲解与实战Elasticsearch 分片分配策略讲解与实战Elasticsearch 安全特性讲解与使用2、课程特色来源于项目实战、应用于实战项目。实战项目经验总结,属于基础后的进阶系列。基于 7.13 版本讲解,市面上教程都没有完整体现过该版本。近 10 个小时的视频,力求相对完整、体系、通透。 3、讲解方式干货凝练总结、侧重原理、深入浅出。每一讲脚本都可以提供下载,跟着学、学的会。视频共11大讲,每讲可以独立成课,方便大家地铁、公交车学习。录播方式,非直播。4、讲师:铭毅天下介绍Elastic认证工程师、Elastic中国合作培训讲师(有世界500强企业用户企业内训经验);阿里云MVP;死磕Elasticsearch知识星球发起人,全球付费用户1200人+(含中国台湾、美国硅谷、加拿大球友),已带领 60人+ 通过Elasticsearch 认证考试(中国仅通过100人左右);可能是中国最大Elastic技术公众号——铭毅天下Elasticsearch作者。CSDN博客专家、CSDN2020年度优秀创作者、CSDN2016年、2013年博客征文大赛特等奖得主;CSDN博客地址:elastic.blog.csdn.net;CSDN博客排名:近前150,阅读量近500,0000+;CSDN持续写作近十年(几乎每月都有输出,几乎从未间断),累计使用 Elasticsearch 超过 10000小时;Elastic中文社区日报责任编辑,2018年Elastic中文社区杰出贡献者、社区排名 TOP5;高级工程师、计算机应用技术硕士、近十年工作经验;理想主义者、终身学习者、终身成长者;笃信坚持、积累的力量;自1997年——至今20年+持续思考、积累、总结,从未间断;个人信条:自由不是你想干什么就干什么,而是你不想干什么就有能力不干什么!人因为梦想而伟大,机遇永远属于那些有准备、立即行动并能坚持到底的人!
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值