1、什么是分布式系统?
部署在不同结点上的系统通过网络交互来完成协同工作的系统。
比如:充值加积分的业务,用户在充值系统向自己的账户充钱,在积分系统中自己积分相应的增加。
充值系统和积 分系统是两个不同的系统,一次充值加积分的业务就需要这两个系统协同工作来完成。
2、什么是事务?
事务是指由一组操作组成的一个工作单元,这个工作单元具有原子性(atomicity)、一致性(consistency)、隔 离性(isolation)和持久性(durability)。
原子性: 执行单元中的操作要么全部执行成功,要么全部失败。如果有一部分成功一部分失败那么成功的操作要全 部回滚到执行前的状态。
一致性: 执行一次事务会使用数据从一个正确的状态转换到另一个正确的状态,执行前后 数据都是完整的。
隔离性: 在该事务执行的过程中,任何数据的改变只存在于该事务之中,对外界没有影响,事务 与事务之间是完全的隔离的。只有事务提交后其它事务才可以查询到最新的数据。
持久性: 事务完成后对数据的改 变会永久性的存储起来,即使发生断电宕机数据依然在。
3、什么是本地事务?
本地事务就是用关系数据库来控制事务,关系数据库通常都具有ACID特性,传统的单体应用通常会将数据全部存储 在一个数据库中,会借助关系数据库来完成事务控制。
4、什么是分布式事务?
在分布式系统中一次操作由多个系统协同完成,这种一次事务操作涉及多个系统通过网络协同完成的过程称为分布 式事务。这里强调的是多个系统通过网络协同完成一个事务的过程,并不强调多个系统访问了不同的数据库,即使 多个系统访问的是同一个数据库也是分布式事务
处理分布式事务: 消息队列实现最终一致
本方案是将分布式事务拆分成多个本地事务来完成,并且由消息队列异步协调完成,如下图: 下边以下单减少库存为例来说明:
1、订单服务和库存服务完成检查和预留资源。
2、订单服务在本地事务中完成添加订单表记录和添加“减少库存任务消息”。 3、由定时任务根据消息表的记录发送给MQ通知库存服务执行减库存操作。 4、库存服务执行减少库存,并且记录执行消息状态(为避免重复执行消息,在执行减库存之前查询是否执行过此 消息)。
5、库存服务向MQ发送完成减少库存的消息。
6、订单服务接收到完成库存减少的消息后删除原来添加的“减少库存任务消息”。
实现最终事务一致要求:预留资源成功理论上要求正式执行成功,如果执行失败会进行重试,要求业务执行方法实 现幂等。
优点 : 由MQ按异步的方式协调完成事务,性能较高。 不用实现try/confirm/cancel接口,开发成本比TCC低。
缺点: 此方式基于关系数据库本地事务来实现,会出现频繁读写数据库记录,浪费数据库资源,另外对于高并发操作不是 最佳方案
记录一个分布式事务案例(自动添加选课方案):
1、支付成功后,订单服务向本地数据库更新订单状态并向消息表写入“添加选课消息”,通过本地数据库保证订单 状态和添加选课消息的事务。
2、定时任务扫描消息表,取出“添加选课任务“并发向MQ。
3、学习服务接收到添加选课的消息,先查询本地数据库的历史消息表是否存在消息,存在则说明已经添加选课, 否则向本地数据库添加选课,并向历史消息表添加选课消息。这里选课表和历史消息表在同一个数据库,通过本地 事务保证。
4、学习服务接收到添加选课的消息,通过查询消息表判断如果已经添加选课也向MQ发送“完成添加选课任务的消 息”,否则则添加选课,完成后向MQ发送“完成添加选课任务的消息”,
5、订单服务接收到完成选课的消息后删除订单数据库中消息表的“添加选课消息”,为保证后期对账将消息表的消 息先添加到历史消息表再删除消息,表示此消息已经完成。
一.表
a、创建订单数据库
在订单数据库中新建待处理任务表和以已完成任务表
在任务表中包括了交换机的名称、路由key等信息为了是将任务的处理做成一个通用的功能。
考虑分布式系统并发读取任务处理任务的情况发生项目使用乐观锁的方式解决并发问题。
已完成任务表xc_task_his
b、创建选课数据库
创建学生选课表和历史任务表
二、订单服务定时发送消息
定时任务发送消息流程如下:
1、每隔1分钟扫描一次任务表。
1、定时任务扫描task表,一次取出多个任务,取出超过1分钟未处理的任务 2、考虑订单服务可能集群部署,为避免重复发送任务使用乐观锁的方式每次从任务列表取出要处理的任务
3、任务发送完毕更新任务发送时间
关于任务表的添加: 正常的流程是订单支付成功向更新订单支付状态并向任务表写入“添加选课任务”。
目前订单支付功能没有开发,采用手动向任务表添加任务。
订单服务目录结构:
RabbitMQConfig:
@Configuration
public class RabbitMQConfig {
//添加选课任务交换机,添加选课和完成选课使用同一个交换机
public static final String EX_LEARNING_ADDCHOOSECOURSE = "ex_learning_addchoosecourse";
//完成添加选课消息队列
public static final String XC_LEARNING_FINISHADDCHOOSECOURSE = "xc_learning_finishaddchoosecourse";
//添加选课消息队列
public static final String XC_LEARNING_ADDCHOOSECOURSE = "xc_learning_addchoosecourse";
//添加选课路由key
public static final String XC_LEARNING_ADDCHOOSECOURSE_KEY = "addchoosecourse";
//完成添加选课路由key
public static final String XC_LEARNING_FINISHADDCHOOSECOURSE_KEY = "finishaddchoosecourse";
/**
* 交换机配置
* @return the exchange
*/
@Bean(EX_LEARNING_ADDCHOOSECOURSE)
public Exchange EX_DECLARE() {
return ExchangeBuilder.directExchange(EX_LEARNING_ADDCHOOSECOURSE).durable(true).build();
}
//声明队列完成添加选课队列
@Bean(XC_LEARNING_FINISHADDCHOOSECOURSE)
public Queue QUEUE_DECLARE() {
Queue queue = new Queue(XC_LEARNING_FINISHADDCHOOSECOURSE,true,false,true);
return queue;
}
//声明队列 添加选课队列
@Bean(XC_LEARNING_ADDCHOOSECOURSE)
public Queue QUEUE_DECLARE_2() {
Queue queue = new Queue(XC_LEARNING_ADDCHOOSECOURSE,true,false,true);
return queue;
}
/**
* 绑定完成添加选课队列到交换机 .
* @param queue the queue
* @param exchange the exchange
* @return the binding
*/
@Bean
public Binding binding_finishaddchoose_processtask(@Qualifier("xc_learning_finishaddchoosecourse") Queue queue, @Qualifier(EX_LEARNING_ADDCHOOSECOURSE) Exchange exchange) {
return BindingBuilder.bind(queue).to(exchange).with(XC_LEARNING_FINISHADDCHOOSECOURSE_KEY).noargs();
}
/**
* 绑定添加选课队列到交换机 .
* @param queue the queue
* @param exchange the exchange
* @return the binding
*/
@Bean
public Binding binding_addchoose_processtask(@Qualifier("xc_learning_addchoosecourse") Queue queue, @Qualifier(EX_LEARNING_ADDCHOOSECOURSE) Exchange exchange) {
return BindingBuilder.bind(queue).to(exchange).with(XC_LEARNING_ADDCHOOSECOURSE_KEY).noargs();
}
}
ChooseCourseTask:
@Scheduled(cron="0/3 * * * * *") //每隔3秒去执行
//定时发送加选课任务
public void sendChoosecourseTask(){
//得到1分钟之前的时间
Calendar calendar = new GregorianCalendar();
calendar.setTime(new Date());
calendar.set(GregorianCalendar.MINUTE,-1);
Date time = calendar.getTime();
List<XcTask> xcTaskList = taskService.findXcTaskList(time, 100);
System.out.println(xcTaskList);
//调用service发布消息,将添加选课的任务发送给mq
for(XcTask xcTask:xcTaskList){
//取任务
if(taskService.getTask(xcTask.getId(),xcTask.getVersion())>0){
String ex = xcTask.getMqExchange();//要发送的交换机
String routingKey = xcTask.getMqRoutingkey();//发送消息要带routingKey
taskService.publish(xcTask,ex,routingKey);
}
}
}
//接收到完成选课的消息队列通知
@RabbitListener(queues = RabbitMQConfig.XC_LEARNING_FINISHADDCHOOSECOURSE)
public void receiveFinishChoosecourseTask(XcTask xcTask){
if(xcTask!=null && StringUtils.isNotEmpty(xcTask.getId())){
taskService.finishTask(xcTask.getId());
}
}
说明:发送加选课任务时,获取任务使用乐观锁的方式更新数据表:
//获取任务
@Transactional
public int getTask(String id,int version){
//通过乐观锁的方式来更新数据表,如果结果大于0说明取到任务
int count = xcTaskRepository.updateTaskVersion(id, version);
return count;
}
@Modifying
@Query("update XcTask t set t.version = :version+1 where t.id = :id and t.version = :version")
public int updateTaskVersion(@Param(value = "id") String id,@Param(value = "version") int version);
发布消息service:
//发布消息
public void publish(XcTask xcTask,String ex,String routingKey){
Optional<XcTask> optional = xcTaskRepository.findById(xcTask.getId());
if(optional.isPresent()){
rabbitTemplate.convertAndSend(ex,routingKey,xcTask);
//更新任务时间
XcTask one = optional.get();
one.setUpdateTime(new Date());
xcTaskRepository.save(one);
}
}
三、学习服务
1、学习服务接收MQ发送添加选课消息,执行添加 选 课操作。
2、添加选课成功向学生选课表插入记录、向历史任务表插入记录、并向MQ发送“完成选课”消息
学习服务目录结构:
RabbitMQConfig:与订单服务一致
ChooseCourseTask:
接收到添加选课的消息调用添加选课方法完成添加选课,并发送完成选课消息。
@Component
public class ChooseCourseTask {
@Autowired
LearningService learningService;
@Autowired
RabbitTemplate rabbitTemplate;
//监听添加选课的消息队列
@RabbitListener(queues = RabbitMQConfig.XC_LEARNING_ADDCHOOSECOURSE)
public void receiveChoosecourseTask(XcTask xcTask){
//取出消息的内容
String requestBody = xcTask.getRequestBody();
Map map = JSON.parseObject(requestBody, Map.class);
String userId = (String) map.get("userId");
String courseId = (String) map.get("courseId");
//解析出valid, Date startTime, Date endTime...
//添加选课
//String userId, String courseId, String valid, Date startTime, Date endTime, XcTask xcTask
ResponseResult addcourse = learningService.addcourse(userId, courseId, null, null, null, xcTask);
if(addcourse.isSuccess()){
//添加选课成功,要向mq发送完成添加选课的消息
rabbitTemplate.convertAndSend(RabbitMQConfig.EX_LEARNING_ADDCHOOSECOURSE,RabbitMQConfig.XC_LEARNING_FINISHADDCHOOSECOURSE_KEY,xcTask);
}
}
}
//添加选课
@Transactional
public ResponseResult addcourse(String userId, String courseId, String valid, Date startTime, Date endTime, XcTask xcTask){
if (StringUtils.isEmpty(courseId)) {
ExceptionCast.cast(LearningCode.LEARNING_GETMEDIA_ERROR);
}
// if (StringUtils.isEmpty(userId)) {
// ExceptionCast.cast(LearningCode.CHOOSECOURSE_USERISNULl);
// }
// if(xcTask == null || StringUtils.isEmpty(xcTask.getId())){
// ExceptionCast.cast(LearningCode.CHOOSECOURSE_TASKISNULL);
// }
XcLearningCourse xcLearningCourse = xcLearningCourseRepository.findByUserIdAndCourseId(userId, courseId);
if(xcLearningCourse!=null){
//更新选课记录
//课程的开始时间
xcLearningCourse.setStartTime(startTime);
xcLearningCourse.setEndTime(endTime);
xcLearningCourse.setStatus("501001");
xcLearningCourseRepository.save(xcLearningCourse);
}else{
//添加新的选课记录
xcLearningCourse = new XcLearningCourse();
xcLearningCourse.setUserId(userId);
xcLearningCourse.setCourseId(courseId);
xcLearningCourse.setStartTime(startTime);
xcLearningCourse.setEndTime(endTime);
xcLearningCourse.setStatus("501001");
xcLearningCourseRepository.save(xcLearningCourse);
}
//向历史任务表播入记录
Optional<XcTaskHis> optional = xcTaskHisRepository.findById(xcTask.getId());
if(!optional.isPresent()){
//添加历史任务
XcTaskHis xcTaskHis = new XcTaskHis();
BeanUtils.copyProperties(xcTask,xcTaskHis);
xcTaskHisRepository.save(xcTaskHis);
}
return new ResponseResult(CommonCode.SUCCESS);
}
订单服务结束任务
订单服务接收完成添加课程消息:
//接收到完成选课的消息队列通知
@RabbitListener(queues = RabbitMQConfig.XC_LEARNING_FINISHADDCHOOSECOURSE)
public void receiveFinishChoosecourseTask(XcTask xcTask){
if(xcTask!=null && StringUtils.isNotEmpty(xcTask.getId())){
taskService.finishTask(xcTask.getId());
}
}
//完成任务并删除任务
@Transactional
public void finishTask(String taskId){
Optional<XcTask> optionalXcTask = xcTaskRepository.findById(taskId);
if(optionalXcTask.isPresent()){
//当前任务
XcTask xcTask = optionalXcTask.get();
//历史任务
XcTaskHis xcTaskHis = new XcTaskHis();
BeanUtils.copyProperties(xcTask,xcTaskHis);
xcTaskHisRepository.save(xcTaskHis);
xcTaskRepository.delete(xcTask);
}
}
测试流程如下:
1、手动向任务表添加一条任务。
2、启动rabbitMQ.
3、启动订单服务、选课服务。
4、观察日志是否添加选课成功 完成任务后将xc_task任务移动到xc_task_his表中 完成任务后在选课表中多了一条学生选课记录