java实现根据 表索引 批量新增或更新数据信息

目的

        通过数据库名、表名实现动态添加活更新数据。添加或更新由唯一索引判断。

实现

        思路

                查询数据库表的唯一索引-CSDN博客

                根据数据库表名动态查询表字段-CSDN博客

                达梦数据库根据唯一索引批量新增或更新数据-CSDN博客

                将数据转换为sql语句需要的格式

                完善代码,实现功能

        实现代码

                将数据转换为sql语句需要的格式

    /**
     * 将数据转换为sql语句需要的格式
     *
     * @param tableName   表名
     * @param dataList    接受到的数据
     * @param uniqueIndex 索引列
     * @param <T>         泛型类
     * @return 转换后的数据
     */
    public static <T> Map<String, Object> cvtDataTypeByTable2(String tableName, List<T> dataList, List<String> uniqueIndex) {
        //根据表名查询字段列表
        Map<String, List<String>> columnsByTable = QueryColumnsByTableName.queryColumnsByTableName(tableName);
        //创建存储返回信息的retMap
        Map<String, Object> retMap = new LinkedHashMap<>();
        //获取所有的表字段
        List<String> columns = columnsByTable.get(tableName);
        //获取需要更新的字段,即索引字段外的其它所有字段
        List<String> updateColumns = columns.stream().filter(column -> !uniqueIndex.contains(column)).collect(Collectors.toList());
        //处理传入的数据
        List<List<Map<String, Object>>> columnsValueList = dataList.stream()
                .map(data -> {
                    List<Map<String, Object>> singleColumnValue = columns.stream()//对数据列表进行流式处理
                            .map(column -> { // 对每个列进行映射操作
                                try {
                                    //将列名转换为驼峰式或小写
                                    String columnName = Convert2CamelCaseOrLowerCase.convertToCamelCaseOrLowerCase(column);
                                    //根据列名获取数据对象的值
                                    Object columnValue = getValueByFieldName(data, columnName);
                                    return  new LinkedHashMap<String, Object>() {{
                                        //将列名作为键,列名作为值放入Map中
                                        put("name", column);
                                        // 将列值作为键,列值作为值放入Map中
                                        put("value", columnValue);
                                    }};
                                } catch (NoSuchFieldException | IllegalAccessException e) {
                                    // 处理异常,例如记录日志或抛出更具体的异常
                                    e.printStackTrace();
                                    return null; // 或者抛出异常
                                }
                            })
                            .collect(Collectors.toList());//将映射结果收集为List
                    return singleColumnValue; //返回单个列的值列表
                })
                .collect(Collectors.toList());//将映射结果收集为List
        retMap.put("columns", columns);
        retMap.put("uniqueIndex", uniqueIndex);
        retMap.put("data", columnsValueList);
        retMap.put("updateColumns", updateColumns);
        return retMap;
    }

        service层代码

package org.springblade.modules.system.service;

import org.apache.poi.ss.formula.functions.T;

import java.util.List;


public interface I类名{

    /**
     * 更新或新增第三方传入数据
     *
     * @param dataName  数据库名
     * @param tableName 表名
     * @param dataList  传入数据
     * @return 是否成功
     */
    <T> boolean updateOrSaveDsfData(String dataName, String tableName, List<T> dataList);

}

        serevice实现类代码

        

package org.springblade.modules.system.service.impl;

import lombok.extern.slf4j.Slf4j;
import org.springblade.modules.system.helper.CvtDataTypeByTable;
import org.springblade.modules.system.mapper.DataBodyMapper;
import org.springblade.modules.system.service.IDsfSjCcService;
import org.springframework.stereotype.Service;

import javax.annotation.Resource;
import java.util.List;
import java.util.Map;

/**
 * 存储第三方传入信息 实现类
 */
@Service
@Slf4j
public class 类名 implements I类名 {


    @Resource
    private DataBodyMapper dataBodyMapper;

    @Override
    public <T> boolean updateOrSaveDsfData(String dataName, String tableName, List<T> dataList) {
        if (dataList == null || dataList.isEmpty()) {
            // 返回 false,并且不抛出异常,而是将异常处理交给调用者
            return false;
        }
        try {
            // 查询唯一索引
            List<String> unique = dataBodyMapper.selectUniqueIndex_DM(dataName, tableName);
            List<String> uniqueIndex = new ArrayList<>();
            if (unique != null && !unique.isEmpty()) {
                for (String row : unique) {
                    uniqueIndex.addAll(Arrays.asList(row.split(",")));
                }
            }
            //将收到的数据转为存储所需格式
            Map<String, Object> formattedDataMap = CvtDataTypeByTable.cvtDataTypeByTable2(tableName, dataList, uniqueIndex);
            //从Map中获取正确的类型,避免强制类型转换
            List<Object> data = (List<Object>) formattedDataMap.get("data");
            List<String> uniqueIndexList = (List<String>) formattedDataMap.get("uniqueIndex");
            List<String> columns = (List<String>) formattedDataMap.get("columns");
            List<String> updateColumns = (List<String>) formattedDataMap.get("updateColumns");
            // 执行批量插入或更新操作
            dataBodyMapper.batchInsertOrUpdate(tableName, data, uniqueIndexList, columns, updateColumns);
        } catch (Exception e) {
            // 可以考虑记录日志而不是打印堆栈跟踪
            e.printStackTrace();
            return false;
        }

        return true;
    }

}

        mapper层代码

package org.springblade.modules.system.mapper;

import com.baomidou.mybatisplus.core.mapper.BaseMapper;
import org.springblade.modules.system.entity.DataBodyEntity;

import java.util.List;

/**
 * 数据主体 Mapper 接口
 *
 * @author BladeX
 * @since 2022-12-12
 */
public interface DataBodyMapper extends BaseMapper<DataBodyEntity> {

    /**
     * 插入或更新
     *
     * @param tableName     表名
     * @param dataList      表数据
     * @param uniqueIndex   索引字段
     * @param columns       表字段
     * @param updateColumns 更新字段
     */
    // @InterceptorIgnore(tenantLine = "true")
    void batchInsertOrUpdate(String tableName, List<Object> dataList, List<String> uniqueIndex, List<String> columns, List<String> updateColumns);
}

        mapper.xml

<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="org.springblade.modules.system.mapper.DataBodyMapper">

    <insert id="batchInsertOrUpdate" parameterType="java.util.List">
        MERGE INTO ${tableName} dst
        USING(
        <foreach collection="dataList" item="data" open="(" separator=" UNION ALL " close=")">
            SELECT
            <foreach collection="data" item="dt" separator=",">
                #{dt.value} AS ${dt.name}
            </foreach>
            FROM dual
        </foreach>
        )
        src
        ON
        <foreach collection="uniqueIndex" item="unique_index_column" open="(" separator=" and" close=")">
            dst.${unique_index_column} = src.${unique_index_column}
        </foreach>
        WHEN MATCHED THEN
        UPDATE SET
        <foreach collection="updateColumns" item="column" separator=",">
            dst.${column} = src.${column}
        </foreach>
        WHEN NOT MATCHED THEN
        INSERT
        <foreach collection="columns" item="field" open="(" separator="," close=")">
            ${field}
        </foreach>
        VALUES
        <foreach collection="columns" item="column" open="(" separator="," close=")">
            src.${column}
        </foreach>
    </insert>

</mapper>

  • 12
    点赞
  • 9
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: es java 批量更新是指在Elasticsearch中使用Java语言批量更新多条文档。通常情况下,我们需要使用Java的Elasticsearch客户端API来执行批量更新操作。 在进行批量更新时,需要传入一个包含多个更新请求的BulkRequest对象,然后在内部循环执行每个更新请求。每个批量更新请求在执行时需要设置需要更新的文档的索引、类型和ID,以及需要更新的字段和新值。批量更新请求完毕后,我们可以使用BulkResponse对象来获取整个批量更新请求的执行结果。 批量更新在进行大量文档的更新操作时,比单独更新每个文档的效率更高,可以将多个更新请求合并为一个批量更新请求,以降低网络传输的开销和请求执行的时间。同时,批量更新也有助于保证操作的原子性,如果其中一个操作失败,整个批量更新请求将会回滚,保证操作的一致性和完整性。 总之,es java 批量更新是一种高效、可靠的文档更新方式,可以在大量文档更新时提高执行效率和保证操作的正确性。 ### 回答2: ES Java 批量更新操作可以通过以下步骤完成: 首先,我们需要创建一个 `BulkRequest` 对象,用于存储需要执行的批量操作。可以通过 `client.bulk()` 方法获取一个 `BulkRequestBuilder` 对象。 接下来,我们可以通过调用 `add()` 方法向 `BulkRequest` 中添加更新操作。例如,可以通过 `client.prepareUpdate(index, type, id).setDoc(newUpdateSource)` 来创建一个更新操作,并使用 `add()` 方法将其添加到 `BulkRequest` 中。其中,`index` 索引名称,`type` 示文档类型,`id` 示文档的唯一标识,`newUpdateSource` 示新的文档内容。 可以多次调用 `add()` 方法,向 `BulkRequest` 中添加多个更新操作。 最后,我们需要执行批量更新操作。可以通过调用 `execute()` 方法执行 `BulkRequest` 中的所有更新操作。返回的结果是一个 `BulkResponse` 对象,我们可以通过该对象获取批量操作的执行结果。 需要注意的是,在执行批量更新操作之前,我们可以设置不同的参数来控制操作的行为。例如,可以设置 `refreshPolicy` 参数来指定更新操作的刷新策略;可以设置 `timeout` 参数来指定操作的超时时间等。 以上就是使用 ES Java 进行批量更新操作的主要步骤。通过使用批量更新操作,可以有效地对多个文档进行更新,提高更新操作的效率。 ### 回答3: Java 批量更新(Batch Update)是指在数据库操作中,一次性执行多个更新操作的过程。这种方法通常用于大规模数据更新,能够提高数据库的性能和效率。 在 Java 中,可以使用 JDBC(Java Database Connectivity)来实现批量更新。首先,需要创建一个 Statement 对象或者 PreparedStatement 对象,用于执行 SQL 语句。然后,可以使用 addBatch() 方法向批处理中添加要执行的 SQL 语句。最后,使用 executeBatch() 方法将批处理中的 SQL 语句一次性执行并提交到数据库使用 Java 批量更新的好处是减少了与数据库的通信次数,提高了数据的处理速度。相比单条更新批量更新可以将多个操作合并为一个事务,减少事务的开销,提高了数据库的性能。 需要注意的是,在进行批量更新时,应仔细选择合适的更新数据量。如果数据量过大,可能会导致内存溢出或者网络堵塞的问题,对系统造成影响。此外,如果在批量更新的过程中出现错误,可能会导致部分数据更新失败,因此需要对错误进行适当处理,保证数据的完整性。 总之,Java 批量更新是一种高效的数据库操作方式,可以显著提升数据处理速度和数据库性能。在使用时,需要注意适当选择更新数据量,并对异常情况进行处理,以确保数据的安全性。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值