批量处理数据

该博客介绍了如何使用MyBatis进行批量数据插入和更新。通过开启BATCH执行类型并手动分批提交,每处理100条数据后提交并清理缓存,避免内存溢出,同时确保异常时能回滚未提交的数据。示例中展示了学生数据的批量创建和更新过程。
摘要由CSDN通过智能技术生成

批量插入数据

/**
     * 批量插入数据
     * @param list 数据集合
     * @param namespace mapperName + sqlId
     */
    public void insertBatch(List<?> list,String namespace) {
        // 新获取一个模式为BATCH,自动提交为false的session
        // 如果自动提交设置为true,将无法控制提交的条数,改为最后统一提交,可能导致内存溢出
        SqlSession session = this.getSqlSessionFactory().openSession(ExecutorType.BATCH, false);
        try {
            if(null != list || list.size() > 0){
                int lsize = list.size();
                for (int i = 0, i <lsize; i++) {
                    Object object = list.get(i);
                    //session.insert("com.xx.mapper.XXXMapper.insert",XXX);
                    session.insert(namespace,object);
                    if ((i>0 && i % 100 == 0) || i == lsize - 1) {
                        // 手动每100个一提交,提交后无法回滚
                        session.commit();
                        // 清理缓存,防止溢出
                        session.clearCache();
                    }
                }
            }
        } catch (Exception e) {
            e.printStackTrace();
            // 没有提交的数据可以回滚
            session.rollback();
            throw new BusinessException("批量插入数据出错!");
        } finally {
            session.close();
        }
    }

批量更新数据

/**
     * 批量更新数据
     * @param list 需要更新的list
     * @param namespace mapperName + sqlId
     */
    public void updateBatch(List<?> list,String namespace) {
        SqlSession session = this.getSqlSessionFactory().openSession(ExecutorType.BATCH, false);
        try {
            if(null != list || list.size() > 0){
                int lsize = list.size();
                for (int i = 0,i < lsize; i++) {
                    Object object = list.get(i);
                    session.update(namespace,object);
                    if ((i>0 && i % 100 == 0) || i == lsize - 1) {
                        // 手动每100个一提交,提交后无法回滚
                        session.commit();
                        // 清理缓存,防止溢出
                        session.clearCache();
                    }
                }
            }
        } catch (Exception e) {
            // 没有提交的数据可以回滚
            session.rollback();
            throw new BusinessException("批量更新数据出错!");
        } finally {
            session.close();
        }
    }

批量插入调用

List<Student> addStudent = new ArrayList<>();
Student student1 = new Student();
Student student2 = new Student();
student1.setName("赵");
student1.setSex("男");
student1.setAgr(18);
student2.setName("钱");
student2.setSex("女");
student2.setAgr(18);
Collections.addAll(addStudent ,student1 , student2);
insertBatch(addStudent,"com.xxxxx.mapper.add");

批量修改调用

List<Student> studentList = getAllStudent();
studentList.forEach(student-> {
                student.setAge(19);
        });
updateBatch(studentList ,"com.xxxxx.mapper.update");

在Matlab中进行批量处理数据并画图是一个常见的任务,可以通过编写脚本或函数来实现自动化处理。以下是基本的步骤和代码示例: 1. 准备数据:首先你需要有一系列的数据文件,比如`.csv`或`.xlsx`格式,或者数据可以直接在Matlab中生成。 2. 读取数据:使用`readtable`、`csvread`、`xlsread`等函数读取文件中的数据。 3. 批量处理:编写循环结构来处理每个数据文件或数据集。你可以对每个数据集应用相同的处理逻辑,比如归一化、滤波、统计分析等。 4. 画图:使用`plot`、`scatter`、`bar`等函数根据处理后的数据绘制图形。 以下是一个简单的代码示例,假设我们有一系列`.csv`文件,每个文件中包含了需要处理的数据: ```matlab % 设置文件夹路径和文件扩展名 folderPath = 'C:\data\'; extension = '.csv'; % 获取文件夹中所有csv文件的名称 files = dir(fullfile(folderPath, ['*.' extension])); % 循环处理每个文件 for i = 1:length(files) % 读取数据 filename = fullfile(folderPath, files(i).name); data = readtable(filename); % 这里可以添加自己的数据处理代码 % 例如,计算平均值 meanValue = mean(data.Value); % 画图 % 假设Value是需要绘图的数据列 figure; plot(data.Variable, data.Value, '-o'); title(['Data from ', files(i).name]); xlabel('X轴标签'); ylabel('Y轴标签'); % 可以添加保存图像的代码 % saveas(gcf, fullfile(folderPath, ['figure_' num2str(i) '.png'])); end ``` 这段代码将遍历指定文件夹中的所有`.csv`文件,读取每个文件中的数据,执行一些基本的数据处理,并对每个数据集绘制一个简单的图表。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值