
Redis+ES+ELK
文章平均质量分 84
NoSQL: Redis, MongoDB, Elasticsearch
GottdesKrieges
Oracle、OceanBase、TiDB、达梦数据库认证专家。 GBase数据库认证工程师。K8S云原生认证工程师。ITIL服务管理和PMP项目管理认证。
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
ES集群磁盘空间超水位线不可写的应急处理
由于磁盘空间不足,只允许对索引做读操作和删除索引。原创 2025-06-05 19:51:45 · 358 阅读 · 0 评论 -
Redis Cluster集群模式容器化部署
在/6379/conf/和/6380/conf/下配置ACL文件,定义好管理员用户、redis-exporter监控用户、主从同步用户、应用用户的相关权限。准备单台服务的compose文件,每台服务器上部署两个Redis实例(服务端口分别为6379和6380)和一个redis exporter。📖参考:https://docs.docker.com/compose/install/standalone/本机创建目录结构,并配置好redis.conf和users.acl文件。也可以直接检查节点信息文件。原创 2024-03-19 19:42:41 · 969 阅读 · 0 评论 -
REDIS运维管理常用命令
以下命令中,{host}为redis实例服务器IP地址,{port}为服务端口,默认6379。如果要连接到SENTINEL节点,将IP地址改为哨兵节点的地址和端口(默认26379)。强制故障转移,不考虑原主实例是否可达,也不需事先征得其他节点投票同意。获取主实例/从实例/哨兵节点的状态信息。清空所有库所有键(高危操作)清空当前库所有键(高危操作)测试指定字节的数据包的性能。redis集群添加节点。redis集群信息查看。redis集群分配槽位。查看redis慢查询。redis慢查询数量。原创 2024-03-14 17:54:46 · 553 阅读 · 0 评论 -
Redis Sentinel哨兵模式容器化部署
📖参考:https://redis.io/docs/management/security/acl/#create-and-edit-user-acls-with-the-acl-setuser-command。📖参考:https://docs.docker.com/compose/install/standalone/📖参考:https://github.com/oliver006/redis_exporter。上面的信息表示主实例从172.x.x.11切换到了172.x.x.12。原创 2024-03-09 19:39:34 · 1392 阅读 · 0 评论 -
Redis配置文件参数解析
📖。原创 2024-02-24 09:41:32 · 538 阅读 · 0 评论 -
Elasticsearch集群Yellow亚健康状态修复
输出中包含的列有health、status(索引状态)、index(索引名称)、uuid、pri(主分片数量)、rep(副本数量)、docs.count、docs.deleted、store.size、pro.store.size。输出的列中包含index、shard(分片名称)、prirep(primary还是replica)、state、docs、store(分片大小)、ip、node(分片所在节点)。观察目标索引的各个分片的分配情况。的行记录,对应的分片状态为。原创 2023-02-23 20:04:39 · 1957 阅读 · 0 评论 -
Elasticsearch常用API与IK分词器
,需要给出所有的字段。如果新的PUT命令中只给出了要修改的字段(比如description),那么其他未明确给出的字段(name和title)都会被舍弃!可以看到,比起ES自带的standard analyzer的逐字拆分,IK分词器的拆分结果明显更贴合中文语法习惯,能够提升ES检索中文关键字的效率。通过Analyze API可以查看分词插件的效果。如果只需要更新document中的个别字段,可以使用。下载支持中文分词的IK插件(与ES版本一一对应)。可以看到,mappings中出现了新增的字段属性。原创 2022-12-01 19:30:00 · 857 阅读 · 0 评论 -
ELK+Filebeat经典架构部署
当我们的ES是Basic或者试用License时,ES安全特性默认是禁用的。,使得Logstash pipeline从指定的Beats获取输入,并将处理过后的数据发送给指定的ES实例。命令生成的证书中不包含主机名信息,我们可以对集群中的每个节点使用该证书,但是不能启用主机名验证。如果启用了另一个输出配置(例如。中的默认配置,Filebeat在成功连接ES后会自动加载索引模板。Filebeat部署在要采集日志的服务器上,并且需要有对日志采集目录的读权限。等其他输出,就必须手动将索引模板加载到ES中。原创 2022-11-30 17:00:00 · 846 阅读 · 0 评论 -
Logstash重要配置参数
Logstash有两种类型的配置文件:pipeline配置文件,用于定义Logstash处理管道;以及Logstash本身的配置文件,用于指定控制Logstash启动和运行的参数。Logstash本身的配置文件位于安装路径的。翻译 2022-11-27 13:15:47 · 10038 阅读 · 0 评论 -
Elasticsearch重要配置参数
通过向通信的应用程序隐藏临时的网络中断,TCP可以在偶尔不可靠的网络上提供可靠的通信。例如,ES使用堆外缓冲区进行高效的网络通信,依靠操作系统的文件系统缓存进行高效的文件访问,并且JVM本身也需要一些内存。因此,ES进程使用的内存超过Xmx设置所配置的限制是正常的。当第一次启动一个全新的ES集群时,会有一个集群引导(bootstrap)步骤,用于确定在第一次选举中可以参与选主投票的节点集合。总的来说,ES可用的堆越多,它可以用于内部缓存的内存就越多,但是留给操作系统用于文件系统缓存的内存就越少。原创 2022-11-24 17:01:16 · 2723 阅读 · 0 评论 -
Elasticsearch集群部署
我们可以将三个Node部署在同一台服务器上,无需任何网络配置,Elasticsearch将绑定到可用的环回地址,并将扫描本地端口。ES单机部署,即部署了只包含单个节点的cluster。此时所有的主分片都位于同一节点上,且无法分配副本分片,因此存在故障时数据丢失风险。看上去像是node1和node2的ES进程都起来了,但是新增节点node2并没有自动加入集群。,以尝试连接到运行在同一服务器上的其他Node。如果新增ES节点部署在不同的服务器上,则需要在。参数,以便新增节点可以发现集群中的其他节点。原创 2022-11-23 13:54:40 · 1627 阅读 · 0 评论 -
ELK技术栈简介
其中,Elasticsearch是一个基于Apache Lucene的RESTful风格的分布式搜索引擎,Logstash是一款轻量的日志收集、处理和分发工具,Kibana则为Elasticsearch提供了一个前端可视化界面。不同来源的数据被采集后从管道的输入端传入,经过一定的数据过滤和标准化处理,最终从输出端被传输到不同的目的地。每个Field都是一个键值对,其中Key是Field的名称,Value则可以是字符串、数字、布尔表达式、对象、或者数组中的任意一种数据类型。来完成索引数据的分割存储功能。原创 2022-11-20 22:33:44 · 2919 阅读 · 0 评论 -
Redis持久化之AOF
持久化(Persistence)是指将数据写到比如固态硬盘等持久化的存储中。翻译 2022-11-15 05:00:00 · 1399 阅读 · 0 评论 -
Redis持久化之RDB
持久化(Persistence)是指将数据写到比如固态硬盘等持久化的存储中。翻译 2022-11-14 23:44:11 · 217 阅读 · 0 评论 -
Redis主从复制基础概念
Redis主从复制默认采用,即主节点在发送命令给从节点后并不会等待从节点返回ACK确认。异步复制的优点是低延迟、高性能,其缺点则是主从节点的数据在短期内有可能不一致。从节点会异步周期性地向主节点告知自己接收到的数据量,所以主节点可以知道哪些从节点接收到了哪些命令。翻译 2022-11-10 12:59:07 · 307 阅读 · 0 评论 -
Redis数据库与数据类型
与关系型数据库不同,Redis中不存在类似的数据库和表的概念。Redis中的数据库实例,更像是一个存储键值对的数据“字典”。默认情况下,redis会自动创建16个数据库实例,并且给这些数据库实例进行编号,从0开始,一直到15,使用时通过编号来使用数据库。可以通过配置文件,指定redis自动创建的数据库个数。只需修改中下面的行即可:默认情况下,redis客户端连接的是编号是0的数据库实例;可以使用切换数据库实例。也可以直接在连接串中指定。KEY与过期时间Redis中的键(Key)是字符串,最大可以到51原创 2022-07-10 11:47:46 · 329 阅读 · 0 评论 -
MongoDB插入数据与等值查询
切换数据库时,无需保证目标数据库已经存在。如果上面的testdb不存在,在首次向testdb中插入数据或者创建时,MongoDB会自动创建testdb。MongoDB将文档数据存储在中,类似于关系型数据库中的。如果某个collection不存在,在首次向其中插入数据时,MongoDB会自动创建该collection。通过方法向名为的collection中插入一条记录:通过方法向名为的collection中插入多条记录:等值查询使用来查询某个collection中所有或者特定的记录。查询collect原创 2022-07-09 18:48:16 · 687 阅读 · 0 评论