spring-boot 整合 spring-boot-starter-batch 数据批处理（文末有彩蛋）

1、什么是 spring-batch？

1.1 介绍

Spring Batch 作为 Spring 的子项目，是一款基于 Spring 的企业批处理框架。通过它可以构建出健壮的企业批处理应用。Spring Batch
不仅提供了统一的读写接口、丰富的任务处理方式、灵活的事务管理及并发处理，同时还支持日志、监控、任务重启与跳过等特性，大大简化了批处理应用开发，将开发人员从复杂的任务配置管理过程中解放出来，使他们可以更多地去关注核心的业务处理过程。
Spring Batch把批处理简化为Job和Job step两部分，在Job step中，把数据处理分为读数据(Reader)、处理数据(Processor)
写数据（Writer）三个步骤，异常处理机制分为跳过、重试、重启三种，作业方式分为多线程、并行、远程、分区四种。开发者在开发过程中，大部分工作是根据业务要求编写Reader、Processor和Writer即可，提高了批处理开发的效率。同时Spring
Batch本身也提供了很多默认的Reader和Writer，开箱即用。
官网详细介绍： https://spring.io/projects/spring-batch

1.2 架构组件分类

• Application(应用层):包含开发者应用Spring-batch编写的所有批处理作业和自定义代码;

• Batch Core(核心层):包含加载和控制批处理作业所必需的核心类，它包含了Job,Step,JobLauncher的实现;

• Infrastructure(基础架构层)：基础架构层包含了Reader(ItemReader),Writer(ItemWriter),Services可以被应用层和核心层使用;

1.3 优势

• 丰富的开箱即用组件 开箱即用组件包括各种资源的读、写。读/写：支持文本文件读/写、XML文件读/写、数据库 读/写、JMS队列读/写等。还提供作业仓库，作业调度器等基础设施，大大简化开发复杂度。

• 面向chunk处理 支持多次读、一次写、避免多次对资源的写入，大幅提升批处理效率。

• 事务管理能力 默认采用Spring提供的声明式事务管理模型，面向Chunk的操作支持事务管理，同时支持为每个tasklet操作设置细粒度的事务配置：隔离级别、传播行为、超时设置等。

• 元数据管理 自动记录Job和Step的执行情况、包括成功、失败、失败的异常信息、执行次数、重试次数、跳过次数、执行时间等，方便后期的维护和查看。

• 易监控的批处理应用 提供了灵活的监控模式，包括直接查看数据库、通过Spring Batch提供的API查看、JMX控制台查看等。其中还说到Spring
  Batch Admin，不过这个项目已不维护，改为用Spring Cloud Data Flow了。

• 丰富的流程定义 支持顺序任务、条件分支任务、基于这两种任务可以组织复杂的任务流程。

• 健壮的批处理应用 支持作业的跳过、重试、重启能力、避免因错误导致批处理作业的异常中断。

• 易扩展的批处理应用 扩展机制包括多线程执行一个Step(Multithreaded step)、多线程并行执行多个Step(Parallelizing step)
  、远程执行作业（Remote chunking）、分区执行（partitioning step）。

• 复用企业现有IT资产 提供多种Adapter能力，使得企业现有的服务可以方便集成到批处理应用中。避免重新开发、达到复用企业遗留的服务资产。

1.4 使用场景

• 定期提交批处理任务

• 并行批处理

• 企业消息驱动处理

• 大规模并行批处理

• 失败后手动或定时重启

• 按顺序处理依赖的任务（可扩展为工作流驱动的批处理）

• 部分处理：跳过记录（例如，回滚时）

• 批处理事务

1.5 原则与建议

1、通常情况下，批处理的过程对系统和架构的设计要够要求比较高，因此尽可能的使用通用架构来处理批量数据处理，降低问题发生的可能性。Spring
Batch是一个是一个轻量级的框架，适用于处理一些灵活并没有到海量的数据。
2、批处理应该尽可能的简单，尽量避免在单个批处理中去执行过于复杂的任务。可以将任务分成多个批处理或者多个步骤去实现。
3、保证数据处理和物理数据紧密相连。笼统的说就是在处理数据的过程中有很多步骤，在某些步骤执行完时应该就写入数据，而不是等所有都处理完。
4、尽可能减少系统资源的使用、尤其是耗费大量资源的IO以及跨服务器
引用，尽量分配好数据处理的批次。
5、定期分析系统的IO使用情况、SQL语句的执行情况等，尽可能的减少不必要的IO操作。优化的原则有：
尽量在一次事物中对同一数据进行读取或写缓存。
一次事物中，尽可能在开始就读取所有需要使用的数据。
优化索引，观察SQL的执行情况，尽量使用主键索引，尽量避免全表扫描或过多的索引扫描。
SQL中的where尽可能通过主键查询。
6、不要在批处理中对相同的数据执行2次相同的操作。
7、对于批处理程序而言应该在批处理启动之前就分配足够的内存，以免处理的过程中去重新申请新的内存页。
8、对数据的完整性应该从最差的角度来考虑，每一步的处理都应该建立完备的数据校验。
9、对于数据的总量应该有一个和数据记录在数据结构的某个字段 上。
10、所有的批处理系统都需要进行压力测试。
11、如果整个批处理的过程是基于文件系统，在处理的过程中请切记完成文件的备份以及文件内容的校验。

1.6 通用策略

和软件开发的设计模式一样，批处理也有各种各样的现成模式可供参考。当一个开发（设计）人员开始执行批处理任务时，应该将业务逻辑拆分为一下的步骤或者板块分批执行：

• 数据转换：某个（某些）批处理的外部数据可能来自不同的外部系统或者外部提供者，这些数据的结构千差万别。在统一进行批量数据处理之前需要对这些数据进行转换，合并为一个统一的结构。因此在数据开始真正的执行业务处理之前，先要使用其他的方法或者一些批处理任务将这些数据转换为统一的格式。

• 数据校验：批处理是对大量数据进行处理，并且数据的来源千差万别，所以批处理的输入数据需要对数据的完整性性进行校验（比如校验字段数据是否缺失）。另外批处理输出的数据也需要进行合适的校验（例如处理了100条数据，校验100条数据是否校验成功）

• 提取数据：批处理的工作是逐条从数据库或目标文件读取记录（records）,提取时可以通过一些规则从数据源中进行数据筛选。

• 数据实时更新处理：根据业务要求，对实时数据进行处理。某些时候一行数据记录的处理需要绑定在一个事物之下。

• 输出记录到标准的文档格式：数据处理完成之后需要根据格式写入到对应的外部数据系统中。

Spring batch框架为业务实现提供了以上几个功能入口。

1.7 数据额外处理

某些情况需要实现对数据进行额外处理，在进入批处理之前通过其他方式将数据进行处理。主要内容有：

• 排序：由于批处理是以独立的行数据（record）进行处理的，在处理的时候并不知道记录前后关系。因此如果需要对整体数据进行排序，最好事先使用其他方式完成。

• 分割：数据拆分也建议使用独立的任务来完成。理由类似排序，因为批处理的过程都是以行记录为基本处理单位的，无法再对分割之后的数据进行扩展处理。

• 合并：理由如上。

整合DEMO仓库地址