如何保证elasticsearch和mysql数据库的数据同步？

最新推荐文章于 2024-05-04 00:32:09 发布
最新推荐文章于 2024-05-04 00:32:09 发布
阅读量7.8k 收藏 21
点赞数 3
分类专栏： Elasticsearch
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45076180/article/details/104009063
版权

在应对大数据量的电商网站时，通常我们把热门数据放在elasticsearch中。但如何保证es和mysql的数据同步？

方法一：.双写模式

1、首先添加商品入数据库，添加商品成功后，商品入ES，
2、若入ES失败，将失败的商品ID放入redis（或MQ），且失败的商品ID入log文件（若出现redis挂掉，可从日志中取异常商品ID然后再入ES）
3、指定定时task任务每秒刷新一下redis缓存，若是从缓存中取到商品ID，则根据商品ID从数据库中获取商品数据然后入ES。

ES的异常分析
org.elasticsearch.ElasticsearchStatusException: Elasticsearch exception [type=circuit_breaking_exception, reason=[parent] Data too large, data for [<http_request>] would be [123581616/117.8mb], which is larger than the limit of [123273216/117.5mb], real usage: [123577712/117.8mb], new bytes reserved: [3904/3.8kb], usages [request=0/0b, fielddata=1557/1.5kb,

解释如下 data too large 问题解释

知识分子_
关注
  • 3
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
如何高效实现 MySQL 与 elasticsearch 的数据同步
xxxzzzqqq_的博客
03-15 349
MySQL 自身简单、高效、可靠，是又拍云内部使用最广泛的数据库。但是当数据量达到一定程度的时候，对整个 MySQL 的操作会变得非常迟缓。而公司内部 robin/logs 表的数据量已经达到 800w，后续又有全文检索的需求。这个需求直接在 MySQL 上实施是难以做到的。
ElasticSearch教程——数据一致性
东天里的冬天
09-28 6147
ElasticSearch汇总请查看：ElasticSearch教程——汇总篇 一致性概念 在分布式环境下，一致性指的是多个数据副本是否能保持一致的特性。 在一致性的条件下，系统在执行数据更新操作之后能够从一致性状态转移到另一个一致性状态。 对系统的一个数据更新成功之后，如果所有用户都能够读取到最新的值，该系统就被认为具有强一致性。 写一致性 对于写操作，Elasticsear...
介绍保证数据库与ES的一致性的实现方案
2301_76297780的博客
03-07 1235
介绍保证数据库与ES的一致性的实现方案
（四）双写一致性：ES与MySQL数据同步的直接同步与异步解决方案
最新发布
weixin_59736343的博客
05-04 3130
（四）双写一致性：ES与MySQL数据同步的直接同步与异步解决方案
【Elasticsearch】实现elasticsearch与mysql的数据同步
小皮皮LL的博客
11-20 4025
文章目录MQ实现elasticsearch与mysql的数据同步1.思路分析1.1 同步调用1.2 异步通知1.3 监听binlog1.4 选择2.MQ实现数据同步2.1 思路2.2 声明交换机、队列（1）引入依赖（2）声明队列交换机名称（3）声明队列交换机2.4 发送MQ消息2.5 接受MQ消息 视频指路????B站黑马微服务超级推荐！ MQ实现elasticsearch与mysql的数据同步 elasticsearch中的酒店数据来自于mysql数据库，因此mysql数据发生改变时，elasticsea
关系型数据库删除记录之后，如何同步到索引库ElasticSearch
lzhfdxhxm的博客
04-02 817
利用logstash，可以很方便的全量或增量同步MySql表中的数据。 可是如果MySql表里删除了记录，就没有办法直接删除对应的索引信息了。 变通方法： 方法一： 在删除MySql表里的记录的时候，去删除对应的索引信息。 这种方式的话，可以通过MQ来通知索引管理服务，让后者来实现删除索引的操作，不会影响系统的删除操作的性能。 方法二： 在MySql的表结构里增加状态标志字段is_d...
实现elasticsearch和数据库的数据同步
viperd的博客
03-15 2881
实现elasticsearch和数据库数据同步一般有以下三种方法：方式一：同步调用优点：实现简单，粗暴缺点：业务耦合度高方式二：异步通知优点：低耦合，实现难度一般缺点：依赖mq的可靠性方式三：监听binlog优点：完全解除服务间耦合缺点：开启binlog增加数据库负担、实现复杂度高。
Elasticsearch同步mysql数据
一千个哈利波特
02-14 2155
主要思路是通过logstash-input-jdbc，并不是实时同步，准实时（通过schedule进行捞取） 原理:通过SQL语句(相对BIN LOG同步可以写较复杂的SQL)进行全量和增量同步 注意点: 增量同步的坑,需要有更新时间，不好做删除，可能需要做逻辑删除（即更新记录）。 更新时间需要做索引。 步骤 1.安装es 2.安装logstash 安装es对应的版本: ...
特别有用的MySQL数据实时同步到ES轻松配置手册
10-12
在当今大数据时代，实时数据同步成为许多企业和组织的关键需求，特别是从关系型数据库如 MySQL 到分布式搜索引擎如 ElasticSearch（ES）的实时同步。本文将详细介绍如何利用灵蜂数据集成软件 BeeDI 实现这一目标。 ...
用python简单实现mysql数据同步到ElasticSearch的教程
09-09
在本教程中，我们将探讨如何使用Python来实现实时或定时将MySQL数据库的数据同步到ElasticSearch。这对于那些需要实时数据分析或快速搜索的应用场景非常有用。以下是一个简化的步骤和关键知识点： 1. **背景与需求*...
MySQL 与 Elasticsearch 数据不对称问题解决办法
09-09
在整合MySQL和Elasticsearch的过程中，常常会遇到数据同步不一致的问题，这主要是由于数据库的更新、删除操作未被及时反映到搜索引擎中导致的。针对这种情况，我们可以采取一系列策略来解决这种不对称问题。 首先，...
elasticsearch与mysql的数据同步连接驱动包
07-31
mysql数据库连接驱动包
Python 实现MySQL数据同步到Elasticsearch（ES）
07-26
Python中的MySQL数据同步到Elasticsearch（ES），使用pymysql库连接到MySQL数据库，并执行查询操作获取数据，从MySQL中获取数据，在Elasticsearch中创建一个索引，用于存储MySQL数据，定义映射（mapping），以指定...
mq实现mysql和elasticsearch数据同步
m0_68979682的博客
08-16 1228
mq实现mysql和elasticsearch数据同步
elasticsearch 如何保证数据一致性？
一名数据库爱好者的专栏
09-17 4006
<<ElasticSearch 集群是如何保证数据的一致性和实时性？>> <<Elasticsearch 如何保证数据不丢失？>> <<elasticsearch如何保证数据一致性？剖析复制与写入机制>>
ElasticSearch 1.6数据同步策略的一个优化
火炬手
04-08 2697
问题背景和描述 问题背景 ElasticSearch ElasticSearch是一个基于Apache Lucene的实时分布式搜索和分析引擎，用于全文搜索、结构化搜索、分析以及将这三者混合使用。可以这样描述它： 分布式的实时文件存储，每个字段都被索引并可被搜索分布式的实时分析搜索引擎可以扩展到上百台服务器，处理PB级结构化或非结构化数据 ElasticSearch 1.
es与数据库的同步方案
王卫东 博客
04-19 2万+
一、双写模式 我们采取MySQL作为主要的数据存储，利用MySQL的事务特性维护数据一致性，使用ElasticSearch进行数据汇集和查询，此时es与数据库的同步方案就尤为重要。 保证es与数据库的同步方案： 1、首先添加商品入数据库，添加商品成功后，商品入ES，若入ES失败，将失败的商品ID放入redis的缓存队列（或MQ），且失败的商品ID入log文件（若出现redis挂掉，可从日志中取异...
ES与MySQL数据同步（全量与增量）
热门推荐
RuiKe的博客
02-11 3万+
思考： 考虑ES如何与数据库实现同步？ ES如何查询多个字段？ 如何构建商品服务（包含搜索功能）？ ES肯定是集群的，如何集群？ 一个项目当它做大做当后都可能会需要将数据从传统的数据库同步到另一种数据集合中，一般用于提高查询效率或将数据进行备份的目的。其中比较常见的一种同步方式是从关系型数据库同步到es 一、理论基础 1.1、es与数据库是如何保持一致的呢？ 原理： 1.2、My...
elasticsearch如何与mysql数据保持同步？
06-03
要实现 Elasticsearch 与 MySQL 数据保持同步，你可以按照以下步骤进行： 1. 安装 Elasticsearch：你需要在本地或服务器上安装 Elasticsearch，并启动它。你可以从官方网站下载并安装 Elasticsearch。 2. 安装 Elasticsearch JDBC 插件：你需要安装 Elasticsearch JDBC 插件，以便能够连接到 MySQL 数据库。你可以从 Elasticsearch 官网下载并安装插件。 3. 创建 Logstash 配置文件：你需要创建 Logstash 配置文件，以便将 MySQL 数据库中的数据同步到 Elasticsearch。以下是一个示例配置文件： ``` input { jdbc { jdbc_driver_library => "/path/to/mysql-connector-java.jar" jdbc_driver_class => "com.mysql.jdbc.Driver" jdbc_connection_string => "jdbc:mysql://localhost:3306/mydatabase" jdbc_user => "myuser" jdbc_password => "mypassword" schedule => "* * * * *" statement => "SELECT * from mytable where updated_at > :sql_last_value" use_column_value => true tracking_column => "updated_at" tracking_column_type => "timestamp" clean_run => true } } output { elasticsearch { hosts => ["localhost:9200"] index => "myindex" document_id => "%{id}" } } ``` 以上配置文件会每分钟查询一次 MySQL 数据库中的数据，并将其同步到 Elasticsearch 中。Logstash 会根据更新时间字段（这里是 updated_at）来判断哪些数据需要同步。如果你需要同步新增的数据，可以将 clean_run 参数设置为 false。 4. 启动 Logstash：使用以上配置文件启动 Logstash。 5. 验证同步结果：你可以使用 Elasticsearch 查询 API 验证同步结果。以下是一个示例查询： ```php require 'vendor/autoload.php'; $client = Elasticsearch\ClientBuilder::create()->build(); $params = [ 'index' => 'myindex', 'type' => 'mytype', 'body' => [ 'query' => [ 'match' => [ 'title' => 'php' ] ] ] ]; $response = $client->search($params); foreach ($response['hits']['hits'] as $hit) { echo $hit['_source']['title'] . "\n"; } ``` 以上是使用 Elasticsearch JDBC 插件实现 Elasticsearch 与 MySQL 数据保持同步的基本步骤。你可以根据自己的需求进行调整和优化。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值