Elasticsearch常用配置及性能参数

cluster.name: estest 集群名称

node.name: “testanya” 节点名称

node.master: false 是否主节点

node.data: true 是否存储数据

index.store.type: niofs 读写文件方式

index.cache.field.type: soft 缓存类型

bootstrap.mlockall: true 禁用swap

gateway.type: local 本地存储

gateway.recover_after_nodes: 3 3个数据节点开始恢复

gateway.recover_after_time: 5m 5分钟后开始恢复数据

gateway.expected_nodes: 4 4个es节点开始恢复

cluster.routing.allocation.node_initial_primaries_recoveries:8 并发恢复分片数

cluster.routing.allocation.node_concurrent_recoveries:2 同时recovery并发数

indices.recovery.max_bytes_per_sec: 250mb 数据在节点间传输最大带宽

indices.recovery.concurrent_streams: 8 同时读取数据文件流线程

discovery.zen.ping.multicast.enabled: false 禁用多播

discovery.zen.ping.unicast.hosts:[“192.168.169.11:9300”, “192.168.169.12:9300”]

discovery.zen.fd.ping_interval: 10s 节点间存活检测间隔

discovery.zen.fd.ping_timeout: 120s 存活超时时间

discovery.zen.fd.ping_retries: 6 存活超时重试次数

http.cors.enabled: true 使用监控

index.analysis.analyzer.ik.type:”ik” ik分词

thread pool setting

threadpool.index.type: fixed 写索引线程池类型

threadpool.index.size: 64 线程池大小(建议2~3倍cpu数)

threadpool.index.queue_size: 1000 队列大小

threadpool.search.size: 64 搜索线程池大小

threadpool.search.type: fixed 搜索线程池类型

threadpool.search.queue_size: 1000 队列大小

threadpool.get.type: fixed 取数据线程池类型

threadpool.get.size: 32 取数据线程池大小

threadpool.get.queue_size: 1000 队列大小

threadpool.bulk.type: fixed 批量请求线程池类型

threadpool.bulk.size: 32 批量请求线程池大小

threadpool.bulk.queue_size: 1000 队列大小

threadpool.flush.type: fixed 刷磁盘线程池类型

threadpool.flush.size: 32 刷磁盘线程池大小

threadpool.flush.queue_size: 1000 队列大小

indices.store.throttle.type: merge

indices.store.throttle.type: none 写磁盘类型

indices.store.throttle.max_bytes_per_sec:500mb 写磁盘最大带宽

index.merge.scheduler.max_thread_count: 8 索引merge最大线程数

index.translog.flush_threshold_size:600MB 刷新translog文件阀值

cluster.routing.allocation.node_initial_primaries_recoveries:8 并发恢复分片数

cluster.routing.allocation.node_concurrent_recoveries:2 同时recovery并发数

使用bulk API 增加入库速度
初次索引的时候,把 replica 设置为 0

增大 threadpool.index.queue_size 1000
增大 indices.memory.index_buffer_size: 20%

index.translog.durability: async –这个可以异步写硬盘,增大写的速度

增大 index.translog.flush_threshold_size: 600MB

增大 index.translog.flush_threshold_ops: 500000

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Elasticsearch 中,每个索引都被分为多个段(segment),每个段包含一部分文档的索引信息。优化段配置是指通过配置参数来控制 Elasticsearch 在何时和如何合并这些段,以提高索引性能和减少磁盘空间的使用。 下面是一些常用的优化段配置参数: - index.merge.policy.segments_per_tier:该参数控制每个段合并到下一层的段数。默认值为10,表示每当有10个段需要合并时,它们会被合并成一个新的段。可以适当调整该参数来控制段的合并频率。 - index.merge.policy.max_merged_segment:该参数控制合并后段的最大大小。默认值为2GB。可以适当调整该参数来控制段的大小。 - index.merge.scheduler.max_thread_count:该参数控制段合并的最大线程数。默认值为1,表示只有一个线程用于段合并。可以增加该参数来提高段合并的速度。 - index.refresh_interval:该参数控制索引的刷新间隔,即多长时间将内存缓冲区中的文档写入磁盘。较小的刷新间隔可以提高实时性,但也会增加磁盘的使用。默认值为1秒。可以适当调整该参数来平衡实时性和磁盘使用。 - index.translog.flush_threshold_ops:该参数控制在写入多少个操作后刷新事务日志。默认值为5000。可以适当调整该参数来控制事务日志的大小。 总之,优化段配置Elasticsearch 的一个重要调优手段,可以通过适当配置参数来提高索引性能和减少磁盘空间的使用。但是需要注意的是,不同的应用场景可能需要不同的优化策略,需要根据具体情况进行调整。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值