Spring Boot:将JPA批量插入性能提高100倍

是否想改善您的插入记录?在本文中,您可以学习如何使用Spring Data JPA将批量插入性能提高100倍。

我遇到了一个问题,我想将数百万条记录插入数据库,而这需要从文件中导入。

因此,我对此进行了一些研究,并希望与您分享我发现的发现,这些发现帮助我将插入记录的吞吐量提高了近100倍。

最初,当我只是尝试使用spring JPA的saveAll方法进行批量插入时,每10,000条记录获得约185秒的性能。在执行以下更改之后,插入10,000条记录的性能仅需4.3秒。

是的,每10k记录4.3秒。

因此,要实现这一点,我必须更改插入数据的方式。

1.插入时更改记录数

最初插入时,我是通过调用saveAll方法直接推送列表中的所有10k记录。我将其更改为30的批处理大小。您也可以将批处理大小增加到甚至60,但是这并不是插入记录所花费的时间的一半。请参阅下表。

为此,您需要设置hibernate属性batch_size=30。

spring.jpa.properties.hibernate.jdbc.batch_size=30
cachePrepStmts=true
useServerPrepStmts=true
rewriteBatchedStatements=t
  • 1
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
Spring Boot应用程序中,您可以使用JPA(Java Persistence API)来与Oracle数据库进行交互,并使用JPA Repository批量插入数据。 以下是使用Spring Boot,Oracle和JPA Repository批量插入数据的一些步骤: 1. 首先,创建一个实体类,它表示您要插入的数据,并使用JPA注解将其映射到数据库表。 2. 然后,在您的Spring Boot应用程序中创建一个JPA Repository,该仓库将帮助您与Oracle数据库进行交互。 3. 接下来,您可以使用Spring Boot的@Transactional注解来确保您的批量插入操作是原子的,这意味着它们要么全部成功,要么全部失败。 4. 然后,使用JPA EntityManager批量插入数据。您可以使用EntityManager的persist()方法将多个实体对象添加到持久化上下文中,然后使用flush()方法将它们一次性保存到数据库中。 以下是一个示例代码段,演示如何使用JPA Repository批量插入数据: ``` @Repository public class MyRepository { @PersistenceContext private EntityManager entityManager; @Transactional public void batchInsert(List<MyEntity> entities) { for (int i = 0; i < entities.size(); i++) { entityManager.persist(entities.get(i)); if (i % 50 == 0) { entityManager.flush(); entityManager.clear(); } } entityManager.flush(); entityManager.clear(); } } ``` 在这个示例中,我们在JPA Repository中定义了一个名为batchInsert()的方法,该方法将一个实体对象列表作为参数,并使用EntityManager批量插入它们。我们使用了flush()方法将批量插入的实体对象保存到数据库中,并使用clear()方法清除持久化上下文。为了优化性能,我们在每插入50个实体对象时执行一次flush()和clear()操作。 这是一个基本的示例,您可以根据自己的需求进行更改和扩展。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值