SpringBatch详解

刚把上一个项目的组的框架和技术栈理顺,突然又要转到新的项目组,而且现在已经不是刚入公司的新人了,没有那么多的时间慢慢适应,赶紧上手做事才是王道,在新的项目组的技术栈中,首当其冲的就是SpringBatch,赶紧上手练习之。 

Spring Batch是什么? 
      Spring Batch是一个基于Spring的企业级批处理框架,按照我师父的说法,所有基于Spring的框架都是使用了spring的IoC特性,然后加上自己的一些处理规则。因此,要理解SpringBatch的设计和使用,首先需要理解批处理的机制和特点。 
      所谓企业批处理就是指在企业级应用中,不需要人工干预,定期读取数据,进行相应的业务处理之后,再进行归档的这类操作。从上面的描述中可以看出,批处理的整个流程可以明显的分为3个阶段: 
        1、读数据 
        2、业务处理 
        3、归档结果数据 
另外,从定义中可以发现批处理的一个重要特色就是无需人工干预、定期执行,因此一个批处理框架,需要关注事务的粒度,日志监控,执行方式,资源管理,读数据,处理数据,写数据的解耦等方面。 
      SpringBatch为我们提供了什么呢? 
       1、统一的读写接口 
       2、丰富的任务处理方式、 
       3、灵活的事务管理及并发处理 
       4、日志、监控、任务重启与跳过等特性 
注意,Spring Batch未提供关于批处理任务调度的功能,因此如何周期性的调用批处理任务需要自己想办法解决,就Java来说,Quartz是一个不错的解决方案,或者写脚本处理之。 

Spring Batch First Demo 
      前面讲了很多Spring Batch的特性,接下来就通过一个小例子来看看SpringBatch是如何实现 批处理的读数据-》处理数据-》归档结果这一过程的。 
       首先,搭建项目框架,推荐大家使用Maven或者Gradle结构的项目,不会的,赶紧学学,对于学习新技术省很多时间。一个Spring项目需要依赖的lib(可能有多,大家可以试探性的删掉一些不必要的包)如下:

Xml代码  

1.  <dependency>  

2.              <groupId>org.springframework</groupId>  

3.              <artifactId>spring-beans</artifactId>  

4.              <version>${springframework.core.version}</version>  

5.          </dependency>  

6.          <dependency>  

7.              <groupId>org.springframework</groupId>  

8.              <artifactId>spring-aop</artifactId>  

9.              <version>${springframework.core.version}</version>  

10.         </dependency>  

11.         <dependency>  

12.             <groupId>org.springframework</groupId>  

13.             <artifactId>spring-context</artifactId>  

14.             <version>${springframework.core.version}</version>  

15.         </dependency>  

16.         <dependency>  

17.             <groupId>org.springframework</groupId>  

18.             <artifactId>spring-core</artifactId>  

19.             <version>${springframework.core.version}</version>  

20.         </dependency>  

21.         <dependency>  

22.             <groupId>org.springframework</groupId>  

23.             <artifactId>spring-jdbc</artifactId>  

24.             <version>${springframework.core.version}</version>  

25.         </dependency>  

26.         <dependency>  

27.             <groupId>org.springframework</groupId>  

28.             <artifactId>spring-test</artifactId>  

29.             <version>${springframework.core.version}</version>  

30.             <scope>test</scope>  

31.         </dependency>  

32.         <dependency>  

33.             <groupId>org.springframework</groupId>  

34.             <artifactId>spring-tx</artifactId>  

35.             <version>${springframework.core.version}</version>  

36.         </dependency>  

37.         <dependency>  

38.             <groupId>org.springframework.batch</groupId>  

39.             <artifactId>spring-batch-core</artifactId>  

40.             <version>${spring.batch.version}</version>  

41.         </dependency>  

42.         <dependency>  

43.             <groupId>org.springframework.batch</groupId>  

44.             <artifactId>spring-batch-infrastructure</artifactId>  

45.             <version>${spring.batch.version}</version>  

46.         </dependency>  

47.         <dependency>  

48.             <groupId>org.springframework.batch</groupId>  

49.             <artifactId>spring-batch-test</artifactId>  

50.             <version>${spring.batch.version}</version>  

51.             <scope>test</scope>  

52.         </dependency>  

53.         <dependency>  

54.             <groupId>junit</groupId>  

55.             <artifactId>junit</artifactId>  

56.             <version>4.10</version>  

57.             <scope>test</scope>  

58.         </dependency>  


项目构建好以后,首先开始写读取数据的逻辑,SpringBatch针对读、写操作提供了很多实现方式,包括文件,数据库,对于数据库的操作还提供了很多ORM框架(Hibernate,iBatis,JPA)的支持,这儿为了简单,以读文件作为例子,假设我们需要读取一个文件中所有人的信息,大于16岁的需要发信息需要发信息通知它去公安局办理身份证。简化文件如下:

Txt代码  

1.  TWer1,15  

2.  TWer2,21  

3.  TWer3,13  

4.  TWer4,16  

5.  TWer5,25  

6.  TWer6,45  

7.  TWer7,16  

,这儿需要的Spring Batch的读文件功能就是把文件中的每一行都能转化为一个内存对象,其对应的类就是User.java

Java代码  

1.  public class User {  

2.      String name;  

3.      int age;  

4.      public String getName() {  

5.          return name;  

6.      }  

7.      public void setName(String name) {  

8.          this.name = name;  

9.      }  

10.     public int getAge() {  

11.         return age;  

12.     }  

13.     public void setAge(int age) {  

14.         this.age = age;  

15.     }  

16. }  

另外,需要在message_job.xml中配置如下内容

Xml代码  

1.  <bean id="messageReader" class="org.springframework.batch.item.file.FlatFileItemReader">  

2.          <property name="lineMapper" ref="lineMapper"/>  

3.          <property name="resource" value="/message/user.txt"/>  

4.      </bean>  

5.    

6.      <bean id="lineMapper" class="org.springframework.batch.item.file.mapping.DefaultLineMapper">  

7.          <property name="lineTokenizer" ref="lineTokenizer"/>  

8.          <property name="fieldSetMapper" ref="fieldSetMapper"/>  

9.      </bean>  

10.     <bean id="fieldSetMapper" class="com.ning.demo.UserMapper"/>  

11.     <bean id="lineTokenizer" class="org.springframework.batch.item.file.transform.DelimitedLineTokenizer"/>  

,该配置文件中除了UserMapper外,都是SpringBatch默认提供的。UserMapper.java代码如下:

Java代码  

1.  public class UserMapper implements FieldSetMapper<User> {  

2.      @Override  

3.      public User mapFieldSet(FieldSet fieldSet) throws BindException {  

4.          User user = new User();  

5.          user.setName(fieldSet.readString(0));  

6.          user.setAge(fieldSet.readInt(1));  

7.          return user;  

8.      }  

9.  }  


这样,文件中的每一行数据都会变成一个User类的instance。 
      接下来,是处理数据的过程,判断每个user的年龄,如果大于16,就生成一条Message。

Java代码  

1.  public class MessageProcessor implements ItemProcessor<User, Message> {  

2.      @Override  

3.      public Message process(User item) throws Exception {  

4.          Message message = null;  

5.          if (item.getAge() > 16) {  

6.              message = new Message();  

7.              message.setContent(item.getName() + ",Please come to police station!");  

8.          }  

9.          return message;  

10.     }  

11. }  

该类实现了SpringBatch的ItemProcessor接口, 

   最后,把处理后得到的所有Message打印到Console上,

Java代码  

1.  public class MessageWriter implements ItemWriter<Message> {  

2.      @Override  

3.      public void write(List<? extends Message> items) throws Exception {  

4.          System.out.println("Results:");  

5.          for (Message item : items) {  

6.              System.out.println(item.getContent());  

7.          }  

8.      }  

9.  }  

该类实现了SpringBatch的ItemWriter接口。SpringBatch本身提供了多种Writer实现。 

  通过上面的几个步骤,把读数据,处理数据,写数据都构造出来了,那么那么是如何串联起来的呢?答案是配置文件,

Xml代码  

1.  <batch:job id="messageJob">  

2.      <batch:step id="messageStep">  

3.          <batch:tasklet>  

4.              <batch:chunk reader="messageReader" processor="messageProcessor" writer="messageWriter"  

5.                           commit-interval="10"  

6.                           chunk-completion-policy="">  

7.              </batch:chunk>  

8.          </batch:tasklet>  

9.      </batch:step>  

10. </batch:job>  

11. <bean id="jobRepository" class="org.springframework.batch.core.repository.support.MapJobRepositoryFactoryBean">  

12.     <property name="transactionManager" ref="transactionManager"/>  

13. </bean>  

14. <bean id="messageReader" class="org.springframework.batch.item.file.FlatFileItemReader">  

15.     <property name="lineMapper" ref="lineMapper"/>  

16.     <property name="resource" value="/message/user.txt"/>  

17. </bean>  

18.   

19. <bean id="lineMapper" class="org.springframework.batch.item.file.mapping.DefaultLineMapper">  

20.     <property name="lineTokenizer" ref="lineTokenizer"/>  

21.     <property name="fieldSetMapper" ref="fieldSetMapper"/>  

22. </bean>  

23. <bean id="fieldSetMapper" class="com.ning.demo.UserMapper"/>  

24. <bean id="lineTokenizer" class="org.springframework.batch.item.file.transform.DelimitedLineTokenizer"/>  

25. <bean id="messageProcessor" class="com.ning.demo.MessageProcessor"/>  

26. <bean id="messageWriter" class="com.ning.demo.MessageWriter"/>  

27. <bean id="transactionManager" class="org.springframework.batch.support.transaction.ResourcelessTransactionManager"/>  

SpringBatch 将批处理任务称为一个Job,同时,Job 下分为多个 Step。Step 是一个独立的、顺序的处理步骤,包含该步骤批处理中需要的所有信息。多个批处理Step 按照一定的流程组成一个Job。通过这样的设计方式,我们可以灵活配置Job 的处理过程。 

     接下来的问题是如何运行构建好的BatchJob呢?SpringBatch提供了JobLauncher接口用于运行Job,并提供了一个默认的SimpleJobLauncher实现。

Java代码  

1.  public class Main {  

2.      public static void main(String[] args) {  

3.          ClassPathXmlApplicationContext c =   

4.                   new ClassPathXmlApplicationContext("message_job.xml");  

5.          SimpleJobLauncher launcher = new SimpleJobLauncher();  

6.          launcher.setJobRepository((JobRepository) c.getBean("jobRepository"));  

7.          launcher.setTaskExecutor(new SimpleAsyncTaskExecutor());  

8.          try {  

9.               launcher.run((Job) c.getBean("messageJob"), new JobParameters());  

10.         } catch (Exception e) {  

11.         e.printStackTrace();  

12.         }  

13.     }  

14. }  

运行BatchJob时需要为 JobLauncher 指定一个 JobRepository,该类负责创建一个 JobExecution 对象来执行 Job,其次,需要指定一个任务执行器,我们使用Spring Batch 提供的SimpleAsyncTaskExecutor。最后,通过 run 方法来执行指定的 Job。运行结果如下: 
Results: 
TWer2,Please come to police station! 
TWer5,Please come to police station! 
TWer6,Please come to police station!

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值