项目简介
本项目是一个基于微服务架构的生产级在线教育项目,核心用户不是K12群体,而是面向成年人的非学历职业技能培训平台。通过此项目,能学习到在线教育中核心的学习辅助系统、考试系统,电商类项目的促销优惠系统等等。更能学习到微服务开发中的各种热点问题,以及不同场景对应的解决方案。
项目展示
用户端
管理端
技术架构
核心业务
主要分为学生端和老师端
项目介绍
由于项目过于庞大,这里仅介绍我个人负责的重点业务。
获取登录用户
在业务中我们还必须知道登录的用户是谁,我们的项目基于JWT实现登录的,登录信息就保存在请求头的token中。因此要获取当前登录用户,只要获取请求头,解析其中的token即可。
因此我们的把token解析的行为放到了网关中,然后由网关把用户信息放入请求头,传递给下游微服务。
每个微服务要从请求头拿出用户信息,在业务中使用,也比较麻烦,所以我们定义了一个HandlerInterceptor,拦截进入微服务的请求,并获取用户信息,存入UserContext(底层基于ThreadLocal)。这样后续的业务处理时就能直接从UserContext中获取用户了。(与我主页项目苍穹外卖原理相同)
具体实现
网关将登录的用户信息放入请求头中传递到下游的微服务。
然后编写微服务中的获取请求头中的用户信息的拦截器。由于这个拦截器在每个微服务中都需要,与其重复编写,直接抽取到一个模块中。其他微服务只用引用这个微服务即可。
在这个拦截器中,获取到用户信息后保存到了UserContext
中,这是一个基于ThreadLocal
的工具,可以确保不同的请求之间互不干扰,避免线程安全问题发生。
学习记录统计
学习记录就是用户当前学了哪些小节,以及学习到该小节的进度如何。而小节类型分为考试、视频两种。考试比较简单,只要提交了就说明这一节学完了。视频会麻烦一点,我们要求视频播放进度达到50%就算是完成本节学习了。所以用户在播放视频的过程中,需要不断提交视频的播放进度,当我们发现视频进度超过50%时就可以标记这一小节为已学完。
当然,我们不能仅仅记录视频是否学完,还应该记录用户具体播放的进度到了第几秒。只有这样在用户关闭视频,再次播放时我们才能实现视频自动续播功能,用户体验会比较好。
也就是说,要记录用户学习进度,需要记录下列核心信息:
-
小节的基础信息(id、关联的课程id等)
-
当前的播放进度(第几秒)
-
当前小节是否已学完(播放进度是否超50%)
用户每学习一个小节,就会新增一条学习记录,当该课程的全部小节学习完毕,则该课程就从学习中进入已学完状态了。
并且还需注意的是,视频可以被重复播放,只有在第一次学完一个视频时,学习次数才需要累加1。
整体流程如图:
具体实现
先义一个提交表单LearningRecordFormDTO实体
定义接口
业务层定义方法和实现类,根据不同状态来处理不同的业务
处理视频小节
private boolean handleVideoRecord(Long userId, LearningRecordFormDTO recordDTO) {
// 1.查询旧的学习记录
LearningRecord old = queryOldRecord(recordDTO.getLessonId(), recordDTO.getSectionId());
// 2.判断是否存在
if (old == null) {
// 3.不存在,则新增
// 3.1.转换PO
LearningRecord record = BeanUtils.copyBean(recordDTO, LearningRecord.class);
// 3.2.填充数据
record.setUserId(userId);
// 3.3.写入数据库
boolean success = save(record);
if (!success) {
throw new DbException("新增学习记录失败!");
}
return false;
}
// 4.存在,则更新
// 4.1.判断是否是第一次完成,true表示第一次完成
boolean finished = !old.getFinished() && recordDTO.getMoment() * 2 >= recordDTO.getDuration();
// 4.2.更新数据
boolean success = lambdaUpdate()
.set(LearningRecord::getMoment, recordDTO.getMoment())
.set(finished, LearningRecord::getFinished, true)
.set(finished, LearningRecord::getFinishTime, recordDTO.getCommitTime())
.eq(LearningRecord::getId, old.getId())
.update();
if(!success){
throw new DbException("更新学习记录失败!");
}
return finished ;
}
处理考试小节
private boolean handleExamRecord(Long userId, LearningRecordFormDTO recordDTO) {
// 1.转换DTO为PO
LearningRecord record = BeanUtils.copyBean(recordDTO, LearningRecord.class);
// 2.填充数据
record.setUserId(userId);
record.setFinished(true);
record.setFinishTime(recordDTO.getCommitTime());
// 3.写入数据库
boolean success = save(record);
if (!success) {
throw new DbException("新增考试记录失败!");
}
return true;
}
处理课表数据
private void handleLearningLessonsChanges(LearningRecordFormDTO recordDTO) {
// 1.查询课表
LearningLesson lesson = lessonService.getById(recordDTO.getLessonId());
if (lesson == null) {
throw new BizIllegalException("课程不存在,无法更新数据!");
}
// 2.判断是否有新的完成小节
boolean allLearned = false;
// 3.如果有新完成的小节,则需要查询课程数据
CourseFullInfoDTO cInfo = courseClient.getCourseInfoById(lesson.getCourseId(), false, false);
if (cInfo == null) {
throw new BizIllegalException("课程不存在,无法更新数据!");
}
// 4.比较课程是否全部学完:已学习小节 >= 课程总小节
allLearned = lesson.getLearnedSections() + 1 >= cInfo.getSectionNum();
// 5.更新课表
lessonService.lambdaUpdate()
.set(lesson.getLearnedSections() == 0, LearningLesson::getStatus, LessonStatus.LEARNING.getValue())
.set(allLearned, LearningLesson::getStatus, LessonStatus.FINISHED.getValue())
.setSql("learned_sections = learned_sections + 1")
.eq(LearningLesson::getId, lesson.getId())
.update();
}
高并发优化
我们上面实现了学习记录的统计功能。为了更精确的记录用户上一次播放的进度,我们采用的方案是:前端每隔15秒就发起一次请求,将播放记录写入数据库。但问题是,提交播放记录的业务太复杂了,其中涉及到大量的数据库操作,这样会给数据库带来太大的压力。所以我们需要解决这个高并发的问题。我们这里采用的是通过redis合并写方案来降低数据库写的次数和频率。
思路分析
我们95%的请求都是在更新learning_record
表中的moment
字段,以及learning_lesson
表中的正在学习的小节id和时间字段。并且播放进度数据是可以合并的(覆盖之前旧数据,只需记录最后一次即可)。
一方面我们要缓存写数据,减少写数据库频率;另一方面我们要缓存播放记录,减少查询数据库。因此,缓存中至少要包含3个字段:
-
记录id:id,用于根据id更新数据库
-
播放进度:moment,用于缓存播放进度
-
播放状态(是否学完):finished,用于判断是否是第一次学完
这是设计出来的redis数据结构
然后对于合并写请求方案,一定有一个步骤就是持久化缓存数据到数据库。一般采用的是定时任务持久化。但是定时任务的持久化方式在播放进度记录业务中存在一些问题,主要就是时效性问题。我们的产品要求视频续播的时间误差不能超过30秒。假如定时任务间隔较短,例如20秒一次,对数据库的更新频率太高,压力太大。假如定时任务间隔较长,例如2分钟一次,更新频率较低,续播误差可能超过2分钟,不满足需求。
我们是这样解决的:每当前端提交播放记录时,我们可以设置一个延迟任务并保存这次提交的进度。等待20秒后(因为前端每15秒提交一次,20秒就是等待下一次提交),检查Redis中的缓存的进度与任务中的进度是否一致。如果不一致,说明持续在提交,无需处理。如果一致:说明是最后一次提交,更新学习记录、更新课表最近学习小节和时间到数据库中。
这是修改后的业务流程
实现思路
这里使用DelayQueue来做延迟任务,先定义一个延迟任务DelayTask储存播放记录,再定义一个工具类LearningRecordDelayTaskHandler 。
工具类具备下述4个方法:
① 添加播放记录到Redis,并添加一个延迟检测任务到DelayQueue
② 查询Redis缓存中的指定小节的播放记录
③ 删除Redis缓存中的指定小节的播放记录
④ 异步执行DelayQueue中的延迟检测任务,检测播放进度是否变化,如果无变化则写入数据库
package com.tianji.learning.utils;
import lombok.Data;
import java.time.Duration;
import java.util.concurrent.Delayed;
import java.util.concurrent.TimeUnit;
@Data
public class DelayTask<D> implements Delayed {
private D data;
private long deadlineNanos;
public DelayTask(D data, Duration delayTime) {
this.data = data;
this.deadlineNanos = System.nanoTime() + delayTime.toNanos();
}
@Override
public long getDelay(TimeUnit unit) {
return unit.convert(Math.max(0, deadlineNanos - System.nanoTime()), TimeUnit.NANOSECONDS);
}
@Override
public int compareTo(Delayed o) {
long l = getDelay(TimeUnit.NANOSECONDS) - o.getDelay(TimeUnit.NANOSECONDS);
if(l > 0){
return 1;
}else if(l < 0){
return -1;
}else {
return 0;
}
}
}
package com.tianji.learning.utils;
import com.tianji.common.utils.JsonUtils;
import com.tianji.common.utils.StringUtils;
import com.tianji.learning.domain.po.LearningLesson;
import com.tianji.learning.domain.po.LearningRecord;
import com.tianji.learning.mapper.LearningRecordMapper;
import com.tianji.learning.service.ILearningLessonService;
import lombok.Data;
import lombok.NoArgsConstructor;
import lombok.RequiredArgsConstructor;
import lombok.extern.slf4j.Slf4j;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Component;
import javax.annotation.PostConstruct;
import javax.annotation.PreDestroy;
import java.time.Duration;
import java.time.LocalDateTime;
import java.util.Objects;
import java.util.concurrent.CompletableFuture;
import java.util.concurrent.DelayQueue;
@Slf4j
@Component
@RequiredArgsConstructor
public class LearningRecordDelayTaskHandler {
private final StringRedisTemplate redisTemplate;
private final LearningRecordMapper recordMapper;
private final ILearningLessonService lessonService;
private final DelayQueue<DelayTask<RecordTaskData>> queue = new DelayQueue<>();
private final static String RECORD_KEY_TEMPLATE = "learning:record:{}";
private static volatile boolean begin = true;
@PostConstruct
public void init(){
CompletableFuture.runAsync(this::handleDelayTask);
}
@PreDestroy
public void destroy(){
begin = false;
log.debug("延迟任务停止执行!");
}
public void handleDelayTask(){
while (begin) {
try {
// 1.获取到期的延迟任务
DelayTask<RecordTaskData> task = queue.take();
RecordTaskData data = task.getData();
// 2.查询Redis缓存
LearningRecord record = readRecordCache(data.getLessonId(), data.getSectionId());
if (record == null) {
continue;
}
// 3.比较数据,moment值
if(!Objects.equals(data.getMoment(), record.getMoment())) {
// 不一致,说明用户还在持续提交播放进度,放弃旧数据
continue;
}
// 4.一致,持久化播放进度数据到数据库
// 4.1.更新学习记录的moment
record.setFinished(null);
recordMapper.updateById(record);
// 4.2.更新课表最近学习信息
LearningLesson lesson = new LearningLesson();
lesson.setId(data.getLessonId());
lesson.setLatestSectionId(data.getSectionId());
lesson.setLatestLearnTime(LocalDateTime.now());
lessonService.updateById(lesson);
} catch (Exception e) {
log.error("处理延迟任务发生异常", e);
}
}
}
public void addLearningRecordTask(LearningRecord record){
// 1.添加数据到Redis缓存
writeRecordCache(record);
// 2.提交延迟任务到延迟队列 DelayQueue
queue.add(new DelayTask<>(new RecordTaskData(record), Duration.ofSeconds(20)));
}
public void writeRecordCache(LearningRecord record) {
log.debug("更新学习记录的缓存数据");
try {
// 1.数据转换
String json = JsonUtils.toJsonStr(new RecordCacheData(record));
// 2.写入Redis
String key = StringUtils.format(RECORD_KEY_TEMPLATE, record.getLessonId());
redisTemplate.opsForHash().put(key, record.getSectionId().toString(), json);
// 3.添加缓存过期时间
redisTemplate.expire(key, Duration.ofMinutes(1));
} catch (Exception e) {
log.error("更新学习记录缓存异常", e);
}
}
public LearningRecord readRecordCache(Long lessonId, Long sectionId){
try {
// 1.读取Redis数据
String key = StringUtils.format(RECORD_KEY_TEMPLATE, lessonId);
Object cacheData = redisTemplate.opsForHash().get(key, sectionId.toString());
if (cacheData == null) {
return null;
}
// 2.数据检查和转换
return JsonUtils.toBean(cacheData.toString(), LearningRecord.class);
} catch (Exception e) {
log.error("缓存读取异常", e);
return null;
}
}
public void cleanRecordCache(Long lessonId, Long sectionId){
// 删除数据
String key = StringUtils.format(RECORD_KEY_TEMPLATE, lessonId);
redisTemplate.opsForHash().delete(key, sectionId.toString());
}
@Data
@NoArgsConstructor
private static class RecordCacheData{
private Long id;
private Integer moment;
private Boolean finished;
public RecordCacheData(LearningRecord record) {
this.id = record.getId();
this.moment = record.getMoment();
this.finished = record.getFinished();
}
}
@Data
@NoArgsConstructor
private static class RecordTaskData{
private Long lessonId;
private Long sectionId;
private Integer moment;
public RecordTaskData(LearningRecord record) {
this.lessonId = record.getLessonId();
this.sectionId = record.getSectionId();
this.moment = record.getMoment();
}
}
}
修改业务层处理视频小节代码
private boolean handleVideoRecord(Long userId, LearningRecordFormDTO recordDTO) {
// 1.查询旧的学习记录
LearningRecord old = queryOldRecord(recordDTO.getLessonId(), recordDTO.getSectionId());
// 2.判断是否存在
if (old == null) {
// 3.不存在,则新增
// 3.1.转换PO
LearningRecord record = BeanUtils.copyBean(recordDTO, LearningRecord.class);
// 3.2.填充数据
record.setUserId(userId);
// 3.3.写入数据库
boolean success = save(record);
if (!success) {
throw new DbException("新增学习记录失败!");
}
return false;
}
// 4.存在,则更新
// 4.1.判断是否是第一次完成
boolean finished = !old.getFinished() && recordDTO.getMoment() * 2 >= recordDTO.getDuration();
if (!finished) {
LearningRecord record = new LearningRecord();
record.setLessonId(recordDTO.getLessonId());
record.setSectionId(recordDTO.getSectionId());
record.setMoment(recordDTO.getMoment());
record.setId(old.getId());
record.setFinished(old.getFinished());
taskHandler.addLearningRecordTask(record);
return false;
}
// 4.2.更新数据
boolean success = lambdaUpdate()
.set(LearningRecord::getMoment, recordDTO.getMoment())
.set(LearningRecord::getFinished, true)
.set(LearningRecord::getFinishTime, recordDTO.getCommitTime())
.eq(LearningRecord::getId, old.getId())
.update();
if (!success) {
throw new DbException("更新学习记录失败!");
}
// 4.3.清理缓存
taskHandler.cleanRecordCache(recordDTO.getLessonId(), recordDTO.getSectionId());
return true;
}
课程模糊搜索
在本项目中,所有上线的课程数据都会存储到Elasticsearch
中,方便用户检索课程。接口的请求参数就是课程名称关键字,其内部会利用elasticsearch的全文检索功能帮我们查询相关课程。这里介绍用户端查询课程。
具体实现
定义搜索接口
定义业务层接口和实现类,实现类里面抽取了几个方法,searchForResponse用于构造查询,还包括分页,高亮等,最后返回response。然后handleSearchResponse再对response进行解析得到数据。
@Override
public PageDTO<CourseVO> queryCoursesForPortal(CoursePageQuery query) {
// 1.搜索数据
SearchResponse response = searchForResponse(query, CourseVO.EXCLUDE_FIELDS);
// 2.解析响应
PageDTO<Course> result = handleSearchResponse(response, query.getPageSize());
// 3.处理VO
List<Course> list = result.getList();
if (CollUtils.isEmpty(list)) {
return PageDTO.empty(result.getTotal(), result.getPages());
}
// 3.1.查询教师信息
List<Long> teacherIds = list.stream().map(Course::getTeacher).collect(Collectors.toList());
List<UserDTO> teachers = userClient.queryUserByIds(teacherIds);
AssertUtils.isNotEmpty(teachers, SearchErrorInfo.TEACHER_NOT_EXISTS);
Map<Long, String> teacherMap = teachers.stream()
.collect(Collectors.toMap(UserDTO::getId, UserDTO::getName));
// 3.2.转换VO
List<CourseVO> vos = new ArrayList<>(list.size());
for (Course c : list) {
CourseVO vo = BeanUtils.toBean(c, CourseVO.class);
vo.setTeacher(teacherMap.getOrDefault(c.getTeacher(), "未知"));
vos.add(vo);
}
return new PageDTO<>(result.getTotal(), result.getPages(), vos);
}
private void buildBasicQuery(SearchRequest request, CoursePageQuery query) {
// 1.准备bool查询
BoolQueryBuilder queryBuilder = QueryBuilders.boolQuery();
// 2.关键字搜索
String keyword = query.getKeyword();
if (StringUtils.isBlank(keyword)) {
queryBuilder.must(QueryBuilders.matchAllQuery());
} else {
queryBuilder.must(QueryBuilders.matchPhraseQuery(CourseRepository.DEFAULT_QUERY_NAME, keyword));
}
// 3.其它条件
if (query.getCategoryIdLv1() != null) {
queryBuilder.filter(QueryBuilders.termQuery(CourseRepository.CATEGORY_ID_LV1, query.getCategoryIdLv1()));
}
if (query.getCategoryIdLv2() != null) {
queryBuilder.filter(QueryBuilders.termQuery(CourseRepository.CATEGORY_ID_LV2, query.getCategoryIdLv2()));
}
if (query.getCategoryIdLv3() != null) {
queryBuilder.filter(QueryBuilders.termQuery(CourseRepository.CATEGORY_ID_LV3, query.getCategoryIdLv3()));
}
if (query.getFree() != null) {
queryBuilder.filter(QueryBuilders.termQuery(CourseRepository.FREE, query.getFree()));
}
if (query.getType() != null) {
queryBuilder.filter(QueryBuilders.termQuery(CourseRepository.TYPE, query.getType()));
}
LocalDateTime beginTime = query.getBeginTime();
LocalDateTime endTime = query.getEndTime();
if(beginTime != null || endTime != null) {
RangeQueryBuilder rangeQuery = QueryBuilders.rangeQuery(CourseRepository.UPDATE_TIME);
if (beginTime != null) {
rangeQuery.gte(beginTime);
}
if (endTime != null) {
rangeQuery.lte(endTime);
}
queryBuilder.filter(rangeQuery);
}
// 4.写入request
request.source().query(queryBuilder);
}
private SearchResponse searchForResponse(CoursePageQuery query, String[] excludeFields) {
// 1.创建Request
SearchRequest request = new SearchRequest(CourseRepository.INDEX_NAME);
// 2.构建DSL
// 2.1.构建query
buildBasicQuery(request, query);
// 2.2.排序
String sortBy = query.getSortBy();
if (StringUtils.isNotBlank(sortBy)) {
request.source().sort(sortBy, query.getIsAsc() ? SortOrder.ASC : SortOrder.DESC);
}
// 2.3.分页
request.source().from(query.from()).size(query.getPageSize());
// 2.4.高亮
request.source().highlighter(new HighlightBuilder().field(CourseRepository.DEFAULT_QUERY_NAME));
// 2.5.source处理
request.source().fetchSource(null, excludeFields);
// 3.发送请求
SearchResponse response = null;
try {
response = restClient.search(request, RequestOptions.DEFAULT);
} catch (IOException e) {
throw new CommonException(ErrorInfo.Msg.SERVER_INTER_ERROR, e);
}
return response;
}
private PageDTO<Course> handleSearchResponse(SearchResponse response, int pageSize) {
SearchHits searchHits = response.getHits();
// 1.总条数
long total = searchHits.getTotalHits().value;
// 2.总页数
long totalPages = (total + pageSize - 1) / pageSize;
// 3.获取命中的数据
SearchHit[] hits = searchHits.getHits();
if (hits.length <= 0) {
return new PageDTO<>(total, totalPages, CollUtils.emptyList());
}
// 4.遍历
List<Course> list = new ArrayList<>(hits.length);
for (SearchHit hit : hits) {
// 5.获取某一条source
String jsonSource = hit.getSourceAsString();
// 6.反序列化
Course course = JsonUtils.toBean(jsonSource, Course.class);
// 7.处理高亮
Map<String, HighlightField> highlightFields = hit.getHighlightFields();
if (CollUtils.isNotEmpty(highlightFields)) {
// 7.1.获取高亮结果
HighlightField field = highlightFields.get(CourseRepository.DEFAULT_QUERY_NAME);
Object[] fragments = field.getFragments();
String value = StringUtils.join(fragments);
// 7.2.覆盖非高亮结果
course.setName(value);
}
list.add(course);
}
return new PageDTO<>(total, totalPages, list);
}
}
点赞功能
用户可以对其余用户的回答进行点赞,而且要保证安全,避免重复点赞,我们就必须保存每一次点赞记录。只有这样在下次用户点赞时我们才能查询数据,判断是否是重复点赞。同时,因为业务方经常需要根据点赞数量排序,因此每个业务的点赞数量也需要记录下来。我们通过MQ通知业务方,这样业务方就可以更新自己的点赞数量了。并且还避免了点赞系统与业务方的耦合。
但是这样会频繁的对数据库进行操作,容易导致数据库压力过大。解决思路与上面学习记录统计相同,采用合并写请求的方案。那就需要将点赞信息先储存在redis里面,最后定时写入数据库即可。接下来分析在redis里面以哪种形式储存。
首先判断用户是否点赞,就是判断存在且唯一。显然,Set集合是最合适的。我们可以用业务id为Key,创建Set集合,将点赞的所有用户保存其中,格式如下:
还有就是业务点赞次数,业务点赞次数需要记录业务id、业务类型、点赞数三个信息:
-
一个业务类型下包含多个业务id
-
每个业务id对应一个点赞数。
这里我们使用SortedSet结构,当用户对某个业务点赞时,我们统计点赞总数,并将其缓存在Redis中。这样一来在一段时间内,不管有多少用户对该业务点赞,都只在Redis中修改点赞总数,无需修改数据库。
业务流程
具体实现
定义接口,点赞和取消点赞是同一个接口,另一个接口为查询指定业务的点赞状态。
@RestController
@RequiredArgsConstructor
@RequestMapping("/likes")
@Api(tags = "点赞业务相关接口")
public class LikedRecordController {
private final ILikedRecordService likedRecordService;
@PostMapping
@ApiOperation("点赞或取消点赞")
public void addLikeRecord(@Valid @RequestBody LikeRecordFormDTO recordDTO) {
likedRecordService.addLikeRecord(recordDTO);
}
@GetMapping("list")
@ApiOperation("查询指定业务id的点赞状态")
public Set<Long> isBizLiked(@RequestParam("bizIds") List<Long> bizIds){
return likedRecordService.isBizLiked(bizIds);
}
}
定义业务层接口和实现类。
实现类里抽取了两个方法like和unlike,分别就是将用户点赞记录添加和移除到redis里的set集合里。addLikeRecord首先判断是点赞还是取消点赞。然后再获取set的条数,即该业务的点赞条数储存到SortedSet里。
isBizLiked需要判断该用户是否有在多个里业务点赞,但是如果一个业务就查询一遍,这样会导致响应时间很长,所以我们采用批处理的执行。Redis中提供了一个Pipeline功能,可以在一次请求中执行多个命令,实现批处理效果。
public interface ILikedRecordService extends IService<LikedRecord> {
void addLikeRecord(LikeRecordFormDTO recordDTO);
Set<Long> isBizLiked(List<Long> bizIds);
}
package com.tianji.remark.service.impl;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.tianji.api.dto.remark.LikedTimesDTO;
import com.tianji.common.autoconfigure.mq.RabbitMqHelper;
import com.tianji.common.utils.CollUtils;
import com.tianji.common.utils.StringUtils;
import com.tianji.common.utils.UserContext;
import com.tianji.remark.constants.RedisConstants;
import com.tianji.remark.domain.dto.LikeRecordFormDTO;
import com.tianji.remark.domain.po.LikedRecord;
import com.tianji.remark.mapper.LikedRecordMapper;
import com.tianji.remark.service.ILikedRecordService;
import lombok.RequiredArgsConstructor;
import org.springframework.data.redis.connection.StringRedisConnection;
import org.springframework.data.redis.core.RedisCallback;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.data.redis.core.ZSetOperations;
import org.springframework.stereotype.Service;
import java.util.ArrayList;
import java.util.List;
import java.util.Set;
import java.util.stream.Collectors;
import java.util.stream.IntStream;
import static com.tianji.common.constants.MqConstants.Exchange.LIKE_RECORD_EXCHANGE;
import static com.tianji.common.constants.MqConstants.Key.LIKED_TIMES_KEY_TEMPLATE;
@Service
@RequiredArgsConstructor
public class LikedRecordServiceRedisImpl extends ServiceImpl<LikedRecordMapper, LikedRecord> implements ILikedRecordService {
private final RabbitMqHelper mqHelper;
private final StringRedisTemplate redisTemplate;
@Override
public void addLikeRecord(LikeRecordFormDTO recordDTO) {
// 1.基于前端的参数,判断是执行点赞还是取消点赞
boolean success = recordDTO.getLiked() ? like(recordDTO) : unlike(recordDTO);
// 2.判断是否执行成功,如果失败,则直接结束
if (!success) {
return;
}
// 3.如果执行成功,统计点赞总数
Long likedTimes = redisTemplate.opsForSet()
.size(RedisConstants.LIKES_BIZ_KEY_PREFIX + recordDTO.getBizId());
if (likedTimes == null) {
return;
}
// 4.缓存点总数到Redis
redisTemplate.opsForZSet().add(
RedisConstants.LIKES_TIMES_KEY_PREFIX + recordDTO.getBizType(),
recordDTO.getBizId().toString(),
likedTimes
);
}
@Override
public Set<Long> isBizLiked(List<Long> bizIds) {
// 1.获取登录用户id
Long userId = UserContext.getUser();
// 2.查询点赞状态
List<Object> objects = redisTemplate.executePipelined((RedisCallback<Object>) connection -> {
StringRedisConnection src = (StringRedisConnection) connection;
for (Long bizId : bizIds) {
String key = RedisConstants.LIKES_BIZ_KEY_PREFIX + bizId;
src.sIsMember(key, userId.toString());
}
return null;
});
// 3.返回结果
return IntStream.range(0, objects.size())
.filter(i -> (boolean) objects.get(i))
.mapToObj(bizIds::get)
.collect(Collectors.toSet());
// 上面的代码等价于这个
// Set<Long> set =new HashSet<>();
// for(int i =0;i<objects.size();i++){
// Boolean o = (Boolean) objects.get(i);
// if(o){
// set.add(bizIds.get(i));
// }
// }
// return set;
}
private boolean unlike(LikeRecordFormDTO recordDTO) {
// 1.获取用户id
Long userId = UserContext.getUser();
// 2.获取Key
String key = RedisConstants.LIKES_BIZ_KEY_PREFIX + recordDTO.getBizId();
// 3.执行SREM命令
Long result = redisTemplate.opsForSet().remove(key, userId.toString());
return result != null && result > 0;
}
private boolean like(LikeRecordFormDTO recordDTO) {
// 1.获取用户id
Long userId = UserContext.getUser();
// 2.获取Key
String key = RedisConstants.LIKES_BIZ_KEY_PREFIX + recordDTO.getBizId();
// 3.执行SADD命令
Long result = redisTemplate.opsForSet().add(key, userId.toString());
return result != null && result > 0;
}
}
点赞成功后,会更新点赞总数并写入Redis中。而我们需要定时读取这些点赞总数的变更数据,通过MQ发送给业务方。这就需要定时任务来实现了。这里我们先使用SpringTask来实现。
首先启动类需要加上@EnableScheduling注解
再定义一个定时任务处理器类,按两个业务类型来处理,每次最大读取数为30。定时任务逻辑还是封装到业务层里
package com.tianji.remark.task;
import com.tianji.remark.service.ILikedRecordService;
import lombok.RequiredArgsConstructor;
import org.springframework.scheduling.annotation.Scheduled;
import org.springframework.stereotype.Component;
import java.util.List;
@Component
@RequiredArgsConstructor
public class LikedTimesCheckTask {
private static final List<String> BIZ_TYPES = List.of("QA", "NOTE");
private static final int MAX_BIZ_SIZE = 30;
private final ILikedRecordService recordService;
@Scheduled(fixedDelay = 20000)
public void checkLikedTimes(){
for (String bizType : BIZ_TYPES) {
recordService.readLikedTimesAndSendMessage(bizType, MAX_BIZ_SIZE);
}
}
}
@Override
public void readLikedTimesAndSendMessage(String bizType, int maxBizSize) {
// 1.读取并移除Redis中缓存的点赞总数
String key = RedisConstants.LIKES_TIMES_KEY_PREFIX + bizType;
Set<ZSetOperations.TypedTuple<String>> tuples = redisTemplate.opsForZSet().popMin(key, maxBizSize);
if (CollUtils.isEmpty(tuples)) {
return;
}
// 2.数据转换
List<LikedTimesDTO> list = new ArrayList<>(tuples.size());
for (ZSetOperations.TypedTuple<String> tuple : tuples) {
String bizId = tuple.getValue();
Double likedTimes = tuple.getScore();
if (bizId == null || likedTimes == null) {
continue;
}
list.add(LikedTimesDTO.of(Long.valueOf(bizId), likedTimes.intValue()));
}
// 3.发送MQ消息
mqHelper.send(
LIKE_RECORD_EXCHANGE,
StringUtils.format(LIKED_TIMES_KEY_TEMPLATE, bizType),
list);
}
课程分类缓存
在很多业务里面都需要用到课程分类数据,如果我们每一个业务用到时都去查询数据库的话,容易造成数据库压力过大。并且课程分类数据不会有大的变化,我们可以将它添加进缓存里面,需要用到的时候再从缓存里取出。这里我们采用的方式是Caffeine,它提供了近乎最佳命中率的高性能的本地缓存库。
具体实现
编写缓存配置类
package com.tianji.api.config;
import com.github.benmanes.caffeine.cache.Cache;
import com.github.benmanes.caffeine.cache.Caffeine;
import com.tianji.api.cache.CategoryCache;
import com.tianji.api.client.course.CategoryClient;
import com.tianji.api.dto.course.CategoryBasicDTO;
import org.springframework.context.annotation.Bean;
import java.time.Duration;
import java.util.Map;
public class CategoryCacheConfig {
/**
* 课程分类的caffeine缓存
*/
@Bean
public Cache<String, Map<Long, CategoryBasicDTO>> categoryCaches(){
return Caffeine.newBuilder()
.initialCapacity(1) // 容量限制
.maximumSize(10_000) // 最大内存限制
.expireAfterWrite(Duration.ofMinutes(30)) // 有效期
.build();
}
/**
* 课程分类的缓存工具类
*/
@Bean
public CategoryCache categoryCache(
Cache<String, Map<Long, CategoryBasicDTO>> categoryCaches, CategoryClient categoryClient){
return new CategoryCache(categoryCaches, categoryClient);
}
}
定义工具类,里面再定义各种查询方法
package com.tianji.api.cache;
import com.github.benmanes.caffeine.cache.Cache;
import com.tianji.api.client.course.CategoryClient;
import com.tianji.api.dto.course.CategoryBasicDTO;
import com.tianji.common.utils.CollUtils;
import lombok.RequiredArgsConstructor;
import java.util.ArrayList;
import java.util.List;
import java.util.Map;
import java.util.function.Function;
import java.util.stream.Collectors;
@RequiredArgsConstructor
public class CategoryCache {
private final Cache<String, Map<Long, CategoryBasicDTO>> categoryCaches;
private final CategoryClient categoryClient;
public Map<Long, CategoryBasicDTO> getCategoryMap() {
return categoryCaches.get("CATEGORY", key -> {
// 1.从CategoryClient查询
List<CategoryBasicDTO> list = categoryClient.getAllOfOneLevel();
if (list == null || list.isEmpty()) {
return CollUtils.emptyMap();
}
// 2.转换数据
return list.stream().collect(Collectors.toMap(CategoryBasicDTO::getId, Function.identity()));
});
}
public String getCategoryNames(List<Long> ids) {
if (ids == null || ids.size() == 0) {
return "";
}
// 1.读取分类缓存
Map<Long, CategoryBasicDTO> map = getCategoryMap();
// 2.根据id查询分类名称并组装
StringBuilder sb = new StringBuilder();
for (Long id : ids) {
sb.append(map.get(id).getName()).append("/");
}
// 3.返回结果
return sb.deleteCharAt(sb.length() - 1).toString();
}
public List<String> getCategoryNameList(List<Long> ids) {
if (ids == null || ids.size() == 0) {
return CollUtils.emptyList();
}
// 1.读取分类缓存
Map<Long, CategoryBasicDTO> map = getCategoryMap();
// 2.根据id查询分类名称并组装
List<String> list = new ArrayList<>(ids.size());
for (Long id : ids) {
list.add(map.get(id).getName());
}
// 3.返回结果
return list;
}
public List<CategoryBasicDTO> queryCategoryByIds(List<Long> ids) {
if (ids == null || ids.size() == 0) {
return CollUtils.emptyList();
}
Map<Long, CategoryBasicDTO> map = getCategoryMap();
return ids.stream()
.map(map::get)
.collect(Collectors.toList());
}
public List<String> getNameByLv3Ids(List<Long> lv3Ids) {
Map<Long, CategoryBasicDTO> map = getCategoryMap();
List<String> list = new ArrayList<>(lv3Ids.size());
for (Long lv3Id : lv3Ids) {
CategoryBasicDTO lv3 = map.get(lv3Id);
CategoryBasicDTO lv2 = map.get(lv3.getParentId());
CategoryBasicDTO lv1 = map.get(lv2.getParentId());
list.add(lv1.getName() + "/" + lv2.getName() + "/" + lv3.getName());
}
return list;
}
public String getNameByLv3Id(Long lv3Id) {
Map<Long, CategoryBasicDTO> map = getCategoryMap();
CategoryBasicDTO lv3 = map.get(lv3Id);
CategoryBasicDTO lv2 = map.get(lv3.getParentId());
CategoryBasicDTO lv1 = map.get(lv2.getParentId());
return lv1.getName() + "/" + lv2.getName() + "/" + lv3.getName();
}
}
每日签到
用户每日进行签到可以获得积分,积分可用于榜单排行,这样能有利于激发用户的学习乐趣。如果使用传统数据库表中的一条记录是一个用户一次的签到记录。假如一个用户1年签到100次,而网站有100万用户,就会产生1亿条记录。随着用户量增多、时间的推移,这张表中的数据只会越来越多,占用的空间也会越来越大。有没有什么办法能够减少签到的数据记录,减少空间占用呢?这里我们使用BitMap(位图),这种是把每一个二进制位,与某些业务数据一一映射(这里是一个月的每一天映射),然后用二进制位上的数字0和1来标识业务状态的思路。redis里也刚好提供了这种结构。
有几个需要注意的问题。首先需要统计连续签到了多少天,还需要统计签到积分还有保存积分明细,并且每天不能重复签到。
具体实现
定义接口
package com.tianji.learning.controller;
import com.tianji.learning.domain.vo.SignResultVO;
import com.tianji.learning.service.ISignRecordService;
import io.swagger.annotations.Api;
import io.swagger.annotations.ApiOperation;
import lombok.RequiredArgsConstructor;
import org.springframework.web.bind.annotation.GetMapping;
import org.springframework.web.bind.annotation.PostMapping;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RestController;
@Api(tags = "签到相关接口")
@RestController
@RequestMapping("sign-records")
@RequiredArgsConstructor
public class SignRecordController {
private final ISignRecordService recordService;
@PostMapping
@ApiOperation("签到功能接口")
public SignResultVO addSignRecords(){
return recordService.addSignRecords();
}
}
定义业务层接口和实现类。我们将统计连续签到次数提取位一个方法countSignDays。统计逻辑就是从今天开始,向前统计,直到遇到第一次未签到为止,计算总的签到次数,就是连续签到天数。但是代码要怎么实现呢?其实就是要找到最后一个bit位,并获取它,然后移除这个bit位,下一个bit位就成为最后一个。
那么如何到最后一个bit位呢?
任何数与1做与运算,得到的结果就是它本身。因此我们让签到记录与1做与运算,就得到了最后一个bit位。
如何移除这个bit位,下一个bit位就成为最后一个呢?
把数字右移一位,最后一位到了小数点右侧,由于我们保留整数,最后一位自然就被丢弃了。
最后根据连续签到的天数统计积分和发送mq消息即可,这里不详细介绍。
package com.tianji.learning.service;
import com.tianji.learning.domain.vo.SignResultVO;
public interface ISignRecordService {
SignResultVO addSignRecords();
}
package com.tianji.learning.service.impl;
import com.tianji.common.autoconfigure.mq.RabbitMqHelper;
import com.tianji.common.constants.MqConstants;
import com.tianji.common.exceptions.BizIllegalException;
import com.tianji.common.utils.BooleanUtils;
import com.tianji.common.utils.CollUtils;
import com.tianji.common.utils.DateUtils;
import com.tianji.common.utils.UserContext;
import com.tianji.learning.constants.RedisConstants;
import com.tianji.learning.domain.vo.SignResultVO;
import com.tianji.learning.mq.message.SignInMessage;
import com.tianji.learning.service.ISignRecordService;
import lombok.RequiredArgsConstructor;
import org.springframework.data.redis.connection.BitFieldSubCommands;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.stereotype.Service;
import java.time.LocalDate;
import java.util.List;
@Service
@RequiredArgsConstructor
public class SignRecordServiceImpl implements ISignRecordService {
private final StringRedisTemplate redisTemplate;
private final RabbitMqHelper mqHelper;
@Override
public SignResultVO addSignRecords() {
// 1.签到
// 1.1.获取登录用户
Long userId = UserContext.getUser();
// 1.2.获取日期
LocalDate now = LocalDate.now();
// 1.3.拼接key
String key = RedisConstants.SIGN_RECORD_KEY_PREFIX
+ userId
+ now.format(DateUtils.SIGN_DATE_SUFFIX_FORMATTER);
// 1.4.计算offset
int offset = now.getDayOfMonth() - 1;
// 1.5.保存签到信息
Boolean exists = redisTemplate.opsForValue().setBit(key, offset, true);
if (BooleanUtils.isTrue(exists)) {
throw new BizIllegalException("不允许重复签到!");
}
// 2.计算连续签到天数
int signDays = countSignDays(key, now.getDayOfMonth());
// 3.计算签到得分
int rewardPoints = 0;
switch (signDays) {
case 7:
rewardPoints = 10;
break;
case 14:
rewardPoints = 20;
break;
case 28:
rewardPoints = 40;
break;
}
// 4.保存积分明细记录
mqHelper.send(
MqConstants.Exchange.LEARNING_EXCHANGE,
MqConstants.Key.SIGN_IN,
SignInMessage.of(userId, rewardPoints + 1));
// 5.封装返回
SignResultVO vo = new SignResultVO();
vo.setSignDays(signDays);
vo.setRewardPoints(rewardPoints);
return vo;
}
/**
* 获取连续签到次数
* @param key
* @param len
* @return
*/
private int countSignDays(String key, int len) {
// 1.获取本月从第一天开始,到今天为止的所有签到记录
List<Long> result = redisTemplate.opsForValue()
.bitField(key, BitFieldSubCommands.create().get(
BitFieldSubCommands.BitFieldType.unsigned(len)).valueAt(0));
if (CollUtils.isEmpty(result)) {
return 0;
}
int num = result.get(0).intValue();
// 2.定义一个计数器
int count = 0;
// 3.循环,与1做与运算,得到最后一个bit,判断是否为0,为0则终止,为1则继续
while ((num & 1) == 1) {
// 4.计数器+1
count++;
// 5.把数字右移一位,最后一位被舍弃,倒数第二位成了最后一位
num >>>= 1;
}
return count;
}
}
实时榜单
用户通过签到和学习获取积分后,实时榜单会根据用户分数的高低来进行排名。用户的积分统计是通过数据库积分明细表保存的。但是,每个用户都可能会有数十甚至上百条积分记录,当用户规模达到百万规模,可能产生的积分记录就是数以亿计。并且,要想形成排行榜,我们在查询数据库时,需要先对用户分组,再对积分求和,最终按照积分和排序,要在每次查询排行榜时,在内存中对这么多数据做分组、求和、排序,对内存和CPU的占用会非常恐怖,不太靠谱。那有没有上面解决办法呢?这里我们采用Redis的SortedSet,每当用户积分发生变更时,我们可以实时更新Redis中的用户积分,而SortedSet也会实时更新排名。
redis里的数据结构
具体实现
只需在添加积分方法除了写入数据库最后再更新写入redis里即可
@Override
public void addPointsRecord(Long userId, int points, PointsRecordType type) {
LocalDateTime now = LocalDateTime.now();
int maxPoints = type.getMaxPoints();
// 1.判断当前方式有没有积分上限
int realPoints = points;
if(maxPoints > 0) {
// 2.有,则需要判断是否超过上限
LocalDateTime begin = DateUtils.getDayStartTime(now);
LocalDateTime end = DateUtils.getDayEndTime(now);
// 2.1.查询今日已得积分
int currentPoints = queryUserPointsByTypeAndDate(userId, type, begin, end);
// 2.2.判断是否超过上限
if(currentPoints >= maxPoints) {
// 2.3.超过,直接结束
return;
}
// 2.4.没超过,保存积分记录
if(currentPoints + points > maxPoints){
realPoints = maxPoints - currentPoints;
}
}
// 3.没有,直接保存积分记录
PointsRecord p = new PointsRecord();
p.setPoints(realPoints);
p.setUserId(userId);
p.setType(type);
save(p);
// 4.更新总积分到Redis
String key = RedisConstants.POINTS_BOARD_KEY_PREFIX + now.format(DateUtils.POINTS_BOARD_SUFFIX_FORMATTER);
redisTemplate.opsForZSet().incrementScore(key, userId.toString(), realPoints);
}
查询排行榜时再从redis里查询我的排名和积分还有排名列表
private PointsBoard queryMyCurrentBoard(String key) {
// 1.绑定key
BoundZSetOperations<String, String> ops = redisTemplate.boundZSetOps(key);
// 2.获取当前用户信息
String userId = UserContext.getUser().toString();
// 3.查询积分
Double points = ops.score(userId);
// 4.查询排名
Long rank = ops.reverseRank(userId);
// 5.封装返回
PointsBoard p = new PointsBoard();
p.setPoints(points == null ? 0 : points.intValue());
p.setRank(rank == null ? 0 : rank.intValue() + 1);
return p;
}
@Override
public List<PointsBoard> queryCurrentBoardList(String key, Integer pageNo, Integer pageSize) {
// 1.计算分页
int from = (pageNo - 1) * pageSize;
// 2.查询
Set<ZSetOperations.TypedTuple<String>> tuples = redisTemplate.opsForZSet()
.reverseRangeWithScores(key, from, from + pageSize - 1);
if (CollUtils.isEmpty(tuples)) {
return CollUtils.emptyList();
}
// 3.封装
int rank = from + 1;
List<PointsBoard> list = new ArrayList<>(tuples.size());
for (ZSetOperations.TypedTuple<String> tuple : tuples) {
String userId = tuple.getValue();
Double points = tuple.getScore();
if (userId == null || points == null) {
continue;
}
PointsBoard p = new PointsBoard();
p.setUserId(Long.valueOf(userId));
p.setPoints(points.intValue());
p.setRank(rank++);
list.add(p);
}
return list;
}
历史排行榜
用户除了可以查询当前的排行榜,也可以查询历史的排行榜。但是我们要如何存储历史榜单的数据呢?如果把历史所有赛季的数据都放入到同一个数据库表里那肯定不合适,这样存在数据过多问题,因此我们选择将数据库表进行水平分表。具体来说,就是按照赛季拆分,每一个赛季是一个独立的表,并且尽可能减少字段,例如下图。
然后在每个赛季刚开始的时候(月初)来创建上个月赛季榜单表。每个月的月初执行一个创建表的任务,我们可以利用定时任务来实现。
具体实现
创建一个定时任务类
package com.tianji.learning.handler;
import com.tianji.common.utils.CollUtils;
import com.tianji.common.utils.DateUtils;
import com.tianji.learning.service.IPointsBoardSeasonService;
import com.tianji.learning.service.IPointsBoardService;
import lombok.RequiredArgsConstructor;
import org.springframework.stereotype.Component;
import java.time.LocalDateTime;
import java.util.List;
import static com.tianji.learning.constants.LearningConstants.POINTS_BOARD_TABLE_PREFIX;
@Component
@RequiredArgsConstructor
public class PointsBoardPersistentHandler {
private final IPointsBoardSeasonService seasonService;
private final IPointsBoardService pointsBoardService;
@Scheduled(cron = "0 0 3 1 * ?") // 每月1号,凌晨3点执行
public void createPointsBoardTableOfLastSeason(){
// 1.获取上月时间
LocalDateTime time = LocalDateTime.now().minusMonths(1);
// 2.查询赛季id
Integer season = seasonService.querySeasonByTime(time);
if (season == null) {
// 赛季不存在
return;
}
// 3.创建表
pointsBoardService.createPointsBoardTableBySeason(season);
}
}
上面调用了两个service的方法,一个是查询赛季querySeasonByTime,一个是创建表createPointsBoardTableBySeason。querySeasonByTime比较简单,这里略过。createPointsBoardTableBySeason调用mapper层里的建表语句。
@Override
public void createPointsBoardTableBySeason(Integer season) {
getBaseMapper().createPointsBoardTable(POINTS_BOARD_TABLE_PREFIX + season);
}
由于是建表语句,所以需要写在xml文件里面。
package com.tianji.learning.mapper;
import com.baomidou.mybatisplus.core.mapper.BaseMapper;
import com.tianji.learning.domain.po.PointsBoard;
import org.apache.ibatis.annotations.Param;
/**
* <p>
* 学霸天梯榜 Mapper 接口
* </p>
*/
public interface PointsBoardMapper extends BaseMapper<PointsBoard> {
void createPointsBoardTable(@Param("tableName") String tableName);
}
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE mapper PUBLIC "-//mybatis.org//DTD Mapper 3.0//EN" "http://mybatis.org/dtd/mybatis-3-mapper.dtd">
<mapper namespace="com.tianji.learning.mapper.PointsBoardMapper">
<insert id="createPointsBoardTable" parameterType="java.lang.String">
CREATE TABLE `${tableName}`
(
`id` BIGINT NOT NULL AUTO_INCREMENT COMMENT '榜单id',
`user_id` BIGINT NOT NULL COMMENT '学生id',
`points` INT NOT NULL COMMENT '积分值',
PRIMARY KEY (`id`) USING BTREE,
INDEX `idx_user_id` (`user_id`) USING BTREE
)
COMMENT ='学霸天梯榜'
COLLATE = 'utf8mb4_0900_ai_ci'
ENGINE = InnoDB
ROW_FORMAT = DYNAMIC
</insert>
</mapper>
分布式任务调度
我们除了要定时创建表,还要定时持久化Redis数据到数据库,我们希望这多个定时任务能够按照顺序依次执行,但是SpringTask无法控制任务顺序,这时候必须要用到分布式任务调度组件了。这里我们使用的是XXL-Job。
下图为定时任务的执行流程
具体实现
首先是创建榜单表,在上一步已经完成,只需将@Scheduled(cron = "0 0 3 1 * ?")替换为
@XxlJob("createTableJob")即可。
其次需要将redis的榜单数据持久化到数据库,要注意的我们这时使用的是动态表名。
因为每个月我们会生成新的榜单,这个榜单的表名在数据库里面是动态的,所以我们根据时间计算出动态表名后先把它存储到ThreadLocal里面。定义一个TableInfoContext 用于存储。
package com.tianji.learning.utils;
public class TableInfoContext {
private static final ThreadLocal<String> TL = new ThreadLocal<>();
public static void setInfo(String info) {
TL.set(info);
}
public static String getInfo() {
return TL.get();
}
public static void remove() {
TL.remove();
}
}
MybatisPlus里面提供了一个动态表名的拦截器DynamicTableNameInnerInterceptor,我们只需定义即可。
package com.tianji.learning.config;
import com.baomidou.mybatisplus.extension.plugins.handler.TableNameHandler;
import com.baomidou.mybatisplus.extension.plugins.inner.DynamicTableNameInnerInterceptor;
import com.tianji.learning.utils.TableInfoContext;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.util.HashMap;
import java.util.Map;
@Configuration
public class MybatisConfiguration {
@Bean
public DynamicTableNameInnerInterceptor dynamicTableNameInnerInterceptor() {
Map<String, TableNameHandler> map = new HashMap<>(1);
map.put("points_board", (sql, tableName) -> TableInfoContext.getInfo());
return new DynamicTableNameInnerInterceptor(map);
}
}
我们项目中的tj-common模块中,已经实现了MybatisPlus的自动装配,并且定义了很多的MP插件。如果我们再在项目中重新定义MP配置,就会导致tj-common中的插件失效。所以,我们应该修改中tj-common的MP配置,将DynamicTableNameInnerInterceptor配置进去。
由于DynamicTableNameInnerInterceptor并不是每一个微服务都用了,所以这里加入了@Autowired(required= false),避免未定义该拦截器的微服务报错。
package com.tianji.common.autoconfigure.mybatis;
import com.baomidou.mybatisplus.annotation.DbType;
import com.baomidou.mybatisplus.core.mapper.BaseMapper;
import com.baomidou.mybatisplus.extension.plugins.MybatisPlusInterceptor;
import com.baomidou.mybatisplus.extension.plugins.inner.DynamicTableNameInnerInterceptor;
import com.baomidou.mybatisplus.extension.plugins.inner.PaginationInnerInterceptor;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
import org.springframework.boot.autoconfigure.condition.ConditionalOnMissingBean;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
@Configuration
@ConditionalOnClass({MybatisPlusInterceptor.class, BaseMapper.class})
public class MybatisConfig {
/**
* @see MyBatisAutoFillInterceptor 通过自定义拦截器来实现自动注入creater和updater
* @deprecated 存在任务更新数据导致updater写入0或null的问题,暂时废弃
*/
// @Bean
// @ConditionalOnMissingBean
public BaseMetaObjectHandler baseMetaObjectHandler() {
return new BaseMetaObjectHandler();
}
@Bean
@ConditionalOnMissingBean
public MybatisPlusInterceptor mybatisPlusInterceptor(@Autowired(required = false) DynamicTableNameInnerInterceptor innerInterceptor) {
// 1.定义插件主体,注意顺序:表名 > 多租户 > 分页 > 乐观锁 > 字段填充
MybatisPlusInterceptor interceptor = new MybatisPlusInterceptor();
// 2.表名插件
if (innerInterceptor != null) {
interceptor.addInnerInterceptor(innerInterceptor);
}
// 3.分页插件
PaginationInnerInterceptor paginationInnerInterceptor = new PaginationInnerInterceptor(DbType.MYSQL);
paginationInnerInterceptor.setMaxLimit(200L);
interceptor.addInnerInterceptor(paginationInnerInterceptor);
// 4.字段填充插件
interceptor.addInnerInterceptor(new MyBatisAutoFillInterceptor());
return interceptor;
}
}
然后就是redis的榜单数据持久化到数据库
@XxlJob("savePointsBoard2DB")
public void savePointsBoard2DB(){
// 1.获取上月时间
LocalDateTime time = LocalDateTime.now().minusMonths(1);
// 2.计算动态表名
// 2.1.查询赛季信息
Integer season = seasonService.querySeasonByTime(time);
// 2.2.存入ThreadLocal
TableInfoContext.setInfo(POINTS_BOARD_TABLE_PREFIX + season);
// 3.查询榜单数据
// 3.1.拼接KEY
String key = RedisConstants.POINTS_BOARD_KEY_PREFIX + time.format(DateUtils.POINTS_BOARD_SUFFIX_FORMATTER);
// 3.2.查询数据
int index = XxlJobHelper.getShardIndex();
int total = XxlJobHelper.getShardTotal();
int pageNo = index + 1;
int pageSize = 10;
while (true) {
List<PointsBoard> boardList = pointsBoardService.queryCurrentBoardList(key, pageNo, pageSize);
if (CollUtils.isEmpty(boardList)) {
break;
}
// 4.持久化到数据库
// 4.1.把排名信息写入id
boardList.forEach(b -> {
b.setId(b.getRank().longValue());
b.setRank(null);
});
// 4.2.持久化
pointsBoardService.saveBatch(boardList);
// 5.翻页
pageNo+=total;
}
TableInfoContext.remove();
}
最后清除redis里的数据
@XxlJob("clearPointsBoardFromRedis")
public void clearPointsBoardFromRedis(){
// 1.获取上月时间
LocalDateTime time = LocalDateTime.now().minusMonths(1);
// 2.计算key
String key = RedisConstants.POINTS_BOARD_KEY_PREFIX + time.format(DateUtils.POINTS_BOARD_SUFFIX_FORMATTER);
// 3.删除
redisTemplate.unlink(key);
}
最后在XXL-Job里面设置好执行顺序即可
优惠劵兑换码
管理员可以给用户发放优惠劵,优惠卷可以用购买课程时减免费用。其中优惠劵的发放分为两种方式,一个为手动领取,另一个为指定发放
手动领取:就是展示在用户端页面,由用户自己手动点击领取
指定发放:就是兑换码模式,后台给优惠券生成N张兑换码,由管理员发放给指定用户。
手动领取相对简单一些,这里仅介绍指定发放。指定发放模式是指使用兑换码来兑换优惠券。因此必须在优惠券发放的同时,生成兑换码。兑换码的格式如图:
但是兑换码不是一个简单的字符串,那兑换码该如何生成呢?首先兑换码必须有以下要求:
-
可读性好:兑换码是要给用户使用的,用户需要输入兑换码,因此可读性必须好。我们的要求:
-
长度不超过10个字符
-
只能是24个大写字母和8个数字:ABCDEFGHJKLMNPQRSTUVWXYZ23456789
-
-
数据量大:优惠活动比较频繁,必须有充足的兑换码,最好有10亿以上的量
-
唯一性:10亿兑换码都必须唯一,不能重复,否则会出现兑换混乱的情况
-
不可重兑:兑换码必须便于校验兑换状态,避免重复兑换
-
防止爆刷:兑换码的规律性不能很明显,不能轻易被人猜测到其它兑换码
-
高效:兑换码生成、验证的算法必须保证效率,避免对数据库带来较大的压力
算法设计
兑换码由24个字母和7个数据组成。去处理0,1,I,O这四个,因为不好区分,分别用一个角标来表示。
例如下面这串复杂数字,用Base32转码后再查询即可得到对应字符
01001 00010 01100 10010 01101 11000 01101 00010 11110 11010
-
01001转10进制是9,查数组得字符为:K
-
00010转10进制是2,查数组得字符为:C
-
01100转10进制是12,查数组得字符为:N
-
10010转10进制是18,查数组得字符为:B
-
01101转10进制是13,查数组得字符为:P
-
11000转10进制是24,查数组得字符为:2
其次选用利用自增id作为兑换码,可以满足以下要求:
-
可读性好:可以转为要求的字母和数字的格式,长度还不超过10个字符
-
数据量大:可以应对40亿以上的数据规模
-
唯一性:自增id,绝对唯一
然后如何保证重兑问题呢?这里我们基于BitMap,兑换或没兑换就是两个状态,对应0和1,而兑换码使用的是自增id。我们如果每一个自增id对应一个bit位,用每一个bit位的状态表示兑换状态,是不是完美解决问题。而这种算法恰好就是BitMap的底层实现,而且Redis中的BitMap刚好能支持2^32个bit位。
紧接着要防止爆刷了。我们的兑换码规律性不能太明显,否则很容易被人猜测到其它兑换码。但是,如果我们使用了自增id,那规律简直太明显了,岂不是很容易被人猜到其它兑换码?所以,我们采用自增id的同时,还需要利用某种校验算法对id做加密验证,避免他人找出规律,猜测到其它兑换码,甚至伪造、篡改兑换码。
我们的兑换码核心是自增id,也就是数字,因此这里我们打算采用按位加权的签名算法:
-
将自增id(32位)每4位分为一组,共8组,都转为10进制
-
每一组给不同权重
-
把每一组数加权求和,得到的结果就是签名
举例
最终的加权和就是:4*2 + 2*5 + 9*1 + 10*3 + 8*4 + 2*7 + 1*8 + 6*9 = 165
当然,为了避免秘钥被人猜测出规律,我们可以准备16组秘钥。在兑换码自增id前拼接一个4位的新鲜值,可以是随机的。这个值是多少,就取第几组秘钥。
最后,把加权和,也就是签名也转二进制,拼接到最前面,最终的兑换码就是这样:
算法的代码实现这里不作展示,仅展示生成验证码结果示例,可以看到虽然是自增id,但生成的验证码毫无规律可言。
异步生成兑换码
由于生成兑换码的数量较多,可能比较耗时,这里推荐基于线程池异步生成。并且优惠券发放以后是可以暂停的,暂停后学员无法领取或兑换该优惠券。用户端页面也不会展示,暂停之后还可以再次发放。假如一个优惠券是通过兑换码方式领取。第一次发放时我们生产了兑换码,然后被暂停,然后再次发放,如果我们再次生成兑换码,这就重复了。
因此,判断是否需要生成兑换码,要同时满足两个要求:
-
领取方式必须是兑换码方式
-
之前的状态必须是待发放,不能是暂停
业务流程图:
具体实现
先定义一个线程池
package com.tianji.promotion.config;
import lombok.extern.slf4j.Slf4j;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor;
import java.util.concurrent.Executor;
import java.util.concurrent.ThreadPoolExecutor;
@Slf4j
@Configuration
public class PromotionConfig {
@Bean
public Executor generateExchangeCodeExecutor(){
ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
// 1.核心线程池大小
executor.setCorePoolSize(2);
// 2.最大线程池大小
executor.setMaxPoolSize(5);
// 3.队列大小
executor.setQueueCapacity(200);
// 4.线程名称
executor.setThreadNamePrefix("exchange-code-handler-");
// 5.拒绝策略
executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy());
executor.initialize();
return executor;
}
}
在启动上加上@EnableAsync注解,开启异步功能。
编写业务层接口和实现类,定义一个异步生成验证码的方法。实现类里使用构造函数注入,绑定好key,这样就不需要每次使用的时候再绑定。还需要加上 @Async注解,指定上面定义的线程池。
package com.tianji.promotion.service;
import com.baomidou.mybatisplus.extension.service.IService;
import com.tianji.promotion.domain.po.Coupon;
import com.tianji.promotion.domain.po.ExchangeCode;
/**
* <p>
* 兑换码 服务类
* </p>
*/
public interface IExchangeCodeService extends IService<ExchangeCode> {
void asyncGenerateCode(Coupon coupon);
}
package com.tianji.promotion.service.impl;
import com.baomidou.mybatisplus.extension.service.impl.ServiceImpl;
import com.tianji.common.utils.CollUtils;
import com.tianji.promotion.domain.po.Coupon;
import com.tianji.promotion.domain.po.ExchangeCode;
import com.tianji.promotion.mapper.ExchangeCodeMapper;
import com.tianji.promotion.service.IExchangeCodeService;
import com.tianji.promotion.utils.CodeUtil;
import org.springframework.data.redis.core.BoundValueOperations;
import org.springframework.data.redis.core.StringRedisTemplate;
import org.springframework.scheduling.annotation.Async;
import org.springframework.stereotype.Service;
import java.util.ArrayList;
import java.util.List;
import java.util.Set;
import static com.tianji.promotion.constants.PromotionConstants.*;
/**
* <p>
* 兑换码 服务实现类
* </p>
*
*
*/
@Service
public class ExchangeCodeServiceImpl extends ServiceImpl<ExchangeCodeMapper, ExchangeCode> implements IExchangeCodeService {
private final StringRedisTemplate redisTemplate;
private final BoundValueOperations<String, String> serialOps;
public ExchangeCodeServiceImpl(StringRedisTemplate redisTemplate) {
this.redisTemplate = redisTemplate;
this.serialOps = redisTemplate.boundValueOps(COUPON_CODE_SERIAL_KEY);
}
@Override
@Async("generateExchangeCodeExecutor")
public void asyncGenerateCode(Coupon coupon) {
// 发放数量
Integer totalNum = coupon.getTotalNum();
// 1.获取Redis自增序列号
Long result = serialOps.increment(totalNum);
if (result == null) {
return;
}
int maxSerialNum = result.intValue();
List<ExchangeCode> list = new ArrayList<>(totalNum);
for (int serialNum = maxSerialNum - totalNum + 1; serialNum <= maxSerialNum; serialNum++) {
// 2.生成兑换码
String code = CodeUtil.generateCode(serialNum, coupon.getId());
ExchangeCode e = new ExchangeCode();
e.setCode(code);
e.setId(serialNum);
e.setExchangeTargetId(coupon.getId());
e.setExpiredTime(coupon.getIssueEndTime());
list.add(e);
}
// 3.保存数据库
saveBatch(list);
// 4.写入Redis缓存,member:couponId,score:兑换码的最大序列号
redisTemplate.opsForZSet().add(COUPON_RANGE_KEY, coupon.getId().toString(), maxSerialNum);
}
}
高并发安全
超卖问题
领取优惠劵时,限量只能领取100张,但是在模拟多个用户同时抢劵高并发测试时,优惠劵领取数量为109张,这种现象我们称为超卖问题。
原因是这里采用的是先查询,再判断,再更新的方案,而以上三步操作并不具备原子性。单线程的情况下确实没有问题。但如果是多线程并发运行,如果N个线程同时去查询,此时大概率查询到的领取量还没达到,判断库存自然没问题。最后一起更新领取量,自然就会超卖。原来的sql如下,只要一开始查询时没问题,最后都会更新领取量,这就导致了领取数量大于发放数量。
UPDATE coupon SET issue_num = issue_num + 1 WHERE id = 1
这种问题最常见的解决方案就是加锁,锁又分为悲观锁和乐观锁。
悲观锁是一种独占和排他的锁机制,保守地认为数据会被其他事务修改,所以在整个数据处理过程中将数据处于锁定状态。
乐观锁是一种较为乐观的并发控制方法,假设多用户并发的不会产生安全问题,因此无需独占和锁定资源。但在更新数据前,会先检查是否有其他线程修改了该数据,如果有,则认为可能有风险,会放弃修改操作。
这里我们采用乐观锁来解决,乐观锁采用CAS(Compare And Set)思想,在更新数据前先判断数据与我之前查询到的是否一致,不一致则证明有其它线程也在更新。为了避免出现安全问题,放弃本次更新或者重新尝试一次。
这里我们还是存在一些问题,例如现在有两个线程,一开始查询领取量都是9,库存是充足的,可以进行更新,根据乐观锁,线程一更新时需要查询是否与之前一致,线程一此时的领取量和之前领取量都是9,说明没有其他线程修改资源,可以进行更新,更新后领取量变成10。这时线程2也开始更新,但是此时的领取量为10,但之前的领取量是9,然后就会导致更新失败,但是我们的总发放数量为100,现在远远还没到100就可能会出现问题。
我们再对乐观锁进行一下改进,改进后的sql如下:
UPDATE coupon SET issue_num = issue_num + 1 WHERE id = 1 AND issue_num < total_num
我们不需要更新时需要查询是否与之前一致,只需判断领取数量小于发放数量即可。
锁和事务
在领取优惠劵时,除了首先要判断是否还有库存,其次还要查询用户是否有领过此优惠劵。除了上面的有很多用户同时来抢优惠劵,还可能出现同一个用户短时间恶意抢劵,我们在模拟测试时发现每个用户限领一张,但最后实际上领到了7张。
对于这种情况还未作处理,解决的方法也是加锁,这里使用悲观锁来实现,这里使用Synchronized。但是加锁的时候有几点需要注意的。
1.用户限领数量判断是针对单个用户的,因此锁的范围不需要是整个方法,只要锁定某个用户即可。同步代码块的锁指定为用户id,那么同一个用户并发操作时会被锁定,不同用户互相没有影响,整体效率也是可以接受的。尤其注意一定要加.intern(),因为哪怕是同一个用户,其id是一样,但toString()得到的也是多个不同对象。
synchronized(userId.toString().intern()){}{
...
}
2.一定要先获取锁,再开启事务;而业务执行完毕后,是先提交事务,再释放锁。否则会出现下面情况:
假如用户限领数量为1,当前用户没有领过券。但是这个人写了一个抢券程序,用自己的账号并发的来访问我们。
假设此时有两个线程并行执行这段逻辑:
-
线程1开启事务,然后获取锁成功;线程2开启事务,但是获取锁失败,被阻塞
-
线程1执行业务,由于没领过,所有业务都能正常执行,不再赘述
-
线程1释放锁。此时线程2立刻获取锁成功,开始执行业务:
-
线程2统计用户已领取数量。由于线程1尚未提交事务,此时线程2读取不到未提交数据。因此认为当前用户没有领券。
-
判断限领数量通过,于是也新增一条券
-
安全问题发生了!
-
@Override
// @Transactional 此处的事务注解取消
public void receiveCoupon(Long couponId) {
// 1.查询优惠券
xxxxx
// 2.校验发放时间
xxxxx
// 3.校验库存
xxxxx
// 4.校验并生成用户券
synchronized(userId.toString().intern()){ // 这里加锁,这样锁在事务之外
checkAndCreateUserCoupon(coupon, userId, null);
}
}
@Transactional // 这里进事务,同时,事务方法一定要public修饰
public void checkAndCreateUserCoupon(Coupon coupon, Long userId, Integer serialNum){
xxxxx
}
3.上面的代码依旧存在问题,出现非事务方法调用事务方法这种情况,会导致事务失效。事务失效的原因是方法内部调用走的是this,而不是代理对象。那我们只要想办法获取代理对象就可以解决了。这里使用AspectJ来实现。
导入依赖
<dependency>
<groupId>org.aspectj</groupId>
<artifactId>aspectjweaver</artifactId>
</dependency>
暴露代理对象,在启动类上添加注解,暴露代理对象
@EnableAspectJAutoProxy(exposeProxy = true)
改造代码
@Override
// @Transactional 此处的事务注解取消
public void receiveCoupon(Long couponId) {
// 1.查询优惠券
xxxxx
// 2.校验发放时间
xxxxx
// 3.校验库存
xxxxx
// 4.校验并生成用户券
synchronized(userId.toString().intern()){ // 这里加锁,这样锁在事务之外
IUserCouponService usercouponService = (IUserCouponService)Aopcontext.currentProxy();
userCouponService.checkAndcreateUserCoupon(coupon, userId, null)
}
}
@Transactional // 这里进事务,同时,事务方法一定要public修饰
public void checkAndCreateUserCoupon(Coupon coupon, Long userId, Integer serialNum){
xxxxx
}
分布式锁
上面我们通过加Synchronized锁来实现领取优惠劵时出现的问题,但是如果在集群下时,这个锁依然可能会失效,所以仍然需要去进行改进。在集群模式下,最常使用的是redis来实现。以下是实现原理:
redis的setnx命令是对string类型数据的操作,语法如下:
# 给key赋值为value
SETNX key value
当前仅当key不存在的时候,setnx才能执行成功,并且返回1,其它情况都会执行失败,并且返回0.我们就可以认为返回值是1就是获取锁成功,返回值是0就是获取锁失败,实现互斥效果。
而当业务执行完成时,我们只需要删除这个key即可释放锁。这个时候其它线程又可以再次获取锁(执行setnx成功)了。
# 删除指定key,用来释放锁
DEL key
为了更加方便,我们通常会使用一些开源框架来实现分布式锁,而不是自己来编码实现。目前对这些解决方案实现的比较完善的一个第三方组件:Redisson
具体实现
导入依赖
<!--redisson-->
<dependency>
<groupId>org.redisson</groupId>
<artifactId>redisson</artifactId>
</dependency>
编写配置
-
这个配置上添加了条件注解
@ConditionalOnClass({RedissonClient.
class
, Redisson.
class
})
也就是说,只要引用了tj-common通用模块,并且引用了Redisson依赖,这套配置就会生效。不引入Redisson依赖,配置自然不会生效,从而实现按需引入。 -
RedissonClient的配置无需自定义Redis地址,而是直接基于SpringBoot中的Redis配置即可。而且不管是Redis单机、Redis集群、Redis哨兵模式都可以支持
package com.tianji.common.autoconfigure.redisson;
import cn.hutool.core.collection.CollectionUtil;
import cn.hutool.core.util.StrUtil;
import com.tianji.common.autoconfigure.redisson.aspect.LockAspect;
import lombok.extern.slf4j.Slf4j;
import org.redisson.Redisson;
import org.redisson.api.RedissonClient;
import org.redisson.config.Config;
import org.springframework.boot.autoconfigure.condition.ConditionalOnClass;
import org.springframework.boot.autoconfigure.condition.ConditionalOnMissingBean;
import org.springframework.boot.autoconfigure.data.redis.RedisProperties;
import org.springframework.boot.context.properties.EnableConfigurationProperties;
import org.springframework.context.annotation.Bean;
import org.springframework.context.annotation.Configuration;
import java.time.Duration;
import java.util.ArrayList;
import java.util.List;
@Slf4j
@ConditionalOnClass({RedissonClient.class, Redisson.class})
@Configuration
@EnableConfigurationProperties(RedisProperties.class)
public class RedissonConfig {
private static final String REDIS_PROTOCOL_PREFIX = "redis://";
private static final String REDISS_PROTOCOL_PREFIX = "rediss://";
@Bean
@ConditionalOnMissingBean
public LockAspect lockAspect(RedissonClient redissonClient){
return new LockAspect(redissonClient);
}
@Bean
@ConditionalOnMissingBean
public RedissonClient redissonClient(RedisProperties properties){
log.debug("尝试初始化RedissonClient");
// 1.读取Redis配置
RedisProperties.Cluster cluster = properties.getCluster();
RedisProperties.Sentinel sentinel = properties.getSentinel();
String password = properties.getPassword();
int timeout = 3000;
Duration d = properties.getTimeout();
if(d != null){
timeout = Long.valueOf(d.toMillis()).intValue();
}
// 2.设置Redisson配置
Config config = new Config();
if(cluster != null && !CollectionUtil.isEmpty(cluster.getNodes())){
// 集群模式
config.useClusterServers()
.addNodeAddress(convert(cluster.getNodes()))
.setConnectTimeout(timeout)
.setPassword(password);
}else if(sentinel != null && !StrUtil.isEmpty(sentinel.getMaster())){
// 哨兵模式
config.useSentinelServers()
.setMasterName(sentinel.getMaster())
.addSentinelAddress(convert(sentinel.getNodes()))
.setConnectTimeout(timeout)
.setDatabase(0)
.setPassword(password);
}else{
// 单机模式
config.useSingleServer()
.setAddress(String.format("redis://%s:%d", properties.getHost(), properties.getPort()))
.setConnectTimeout(timeout)
.setDatabase(0)
.setPassword(password);
}
// 3.创建Redisson客户端
return Redisson.create(config);
}
private String[] convert(List<String> nodesObject) {
List<String> nodes = new ArrayList<>(nodesObject.size());
for (String node : nodesObject) {
if (!node.startsWith(REDIS_PROTOCOL_PREFIX) && !node.startsWith(REDISS_PROTOCOL_PREFIX)) {
nodes.add(REDIS_PROTOCOL_PREFIX + node);
} else {
nodes.add(node);
}
}
return nodes.toArray(new String[0]);
}
}
然后就是优化原来的代码,下图为执行流程
可以发现,只有红框部分是业务功能,业务前、后都是固定的锁操作。既然如此,我们完全可以基于AOP的思想,将业务部分作为切入点,将业务前后的锁操作作为环绕增强。这里我们使用自定义注解来标记,同时,加锁时还有一些参数,比如:锁的key名称、锁的waitTime、releaseTime等等,都可以基于注解来传参。
定义注解
package com.tianji.promotion.utils;
import java.lang.annotation.ElementType;
import java.lang.annotation.Retention;
import java.lang.annotation.RetentionPolicy;
import java.lang.annotation.Target;
import java.util.concurrent.TimeUnit;
@Retention(RetentionPolicy.RUNTIME)
@Target(ElementType.METHOD)
public @interface MyLock {
String name();
long waitTime() default 1;
long leaseTime() default -1;
TimeUnit unit() default TimeUnit.SECONDS;
}
使用锁时还有一个问题就是锁的名称是根据用户id动态来决定的,这里使用SPEL表达式来解决。
用法就是锁名称中要包含方法参数中的用户id。
@Lock(name = "lock:coupon:#{userId}")
@Transactional
@Override
public void checkAndCreateUserCoupon(Coupon coupon, Long userId, Integer serialNum){
xxxxx
}
如果方法参数中没有用户id可以这样解决,这里T(类名).方法名就是调用静态方法。
@Lock(name = "lock:coupon:#{T(com.tianji.common.utils.UserContext).getUser()}")
@Transactional
@Override
public void checkAndCreateUserCoupon(UserCouponDTO uc){
xxxxx
}
定义切面,这里需要注意,因为我们的锁一定要在事务之前执行,所以,我们的切面一定要实现Ordered接口,指定order值为0。还有需要基于注解中的锁名称做动态解析,而不是直接使用名称。getLockName方法写在了下面,比较复杂,这里不进行介绍。
package com.tianji.promotion.utils;
import lombok.RequiredArgsConstructor;
import org.aspectj.lang.ProceedingJoinPoint;
import org.aspectj.lang.annotation.Around;
import org.aspectj.lang.annotation.Aspect;
import org.redisson.api.RLock;
import org.redisson.api.RedissonClient;
import org.springframework.stereotype.Component;
@Component
@Aspect
@RequiredArgsConstructor
public class MyLockAspect implements Ordered{
private final RedissonClient redissonClient;
@Around("@annotation(myLock)")
public Object tryLock(ProceedingJoinPoint pjp, MyLock myLock) throws Throwable {
//基于SPEL表达式解析锁的name
String name= getLockName(myLock.name(),pjp);
// 1.创建锁对象
RLock lock = redissonClient.getLock(myLock.name());
// 2.尝试获取锁
boolean isLock = lock.tryLock(myLock.waitTime(), myLock.leaseTime(), myLock.unit());
// 3.判断是否成功
if(!isLock) {
// 3.1.失败,快速结束
throw new BizIllegalException("请求太频繁");
}
try {
// 3.2.成功,执行业务
return pjp.proceed();
} finally {
// 4.释放锁
lock.unlock();
}
}
@Override
public int getOrder() {
return 0;
}
/**
* SPEL的正则规则
*/
private static final Pattern pattern = Pattern.compile("\\#\\{([^\\}]*)\\}");
/**
* 方法参数解析器
*/
private static final ParameterNameDiscoverer parameterNameDiscoverer = new DefaultParameterNameDiscoverer();
/**
* 解析锁名称
* @param name 原始锁名称
* @param pjp 切入点
* @return 解析后的锁名称
*/
private String getLockName(String name, ProceedingJoinPoint pjp) {
// 1.判断是否存在spel表达式
if (StringUtils.isBlank(name) || !name.contains("#")) {
// 不存在,直接返回
return name;
}
// 2.构建context
EvaluationContext context = new MethodBasedEvaluationContext(
TypedValue.NULL, resolveMethod(pjp), pjp.getArgs(), parameterNameDiscoverer);
// 3.构建解析器
ExpressionParser parser = new SpelExpressionParser();
// 3.循环处理
Matcher matcher = pattern.matcher(name);
while (matcher.find()) {
// 2.1.获取表达式
String tmp = matcher.group();
// 2.2.尝试解析
String group = matcher.group(1);
Expression expression = parser.parseExpression(group.charAt(0) == 'T' ? group : "#" + group);
Object value = expression.getValue(context);
name = name.replace(tmp, ObjectUtils.nullSafeToString(value));
}
return name;
}
private Method resolveMethod(ProceedingJoinPoint pjp) {
// 1.获取方法签名
MethodSignature signature = (MethodSignature)pjp.getSignature();
// 2.获取字节码
Class<?> clazz = pjp.getTarget().getClass();
// 3.方法名称
String name = signature.getName();
// 4.方法参数列表
Class<?>[] parameterTypes = signature.getMethod().getParameterTypes();
return tryGetDeclaredMethod(clazz, name, parameterTypes);
}
private Method tryGetDeclaredMethod(Class<?> clazz, String name, Class<?> ... parameterTypes){
try {
// 5.反射获取方法
return clazz.getDeclaredMethod(name, parameterTypes);
} catch (NoSuchMethodException e) {
Class<?> superClass = clazz.getSuperclass();
if (superClass != null) {
// 尝试从父类寻找
return tryGetDeclaredMethod(superClass, name, parameterTypes);
}
}
return null;
}
}
还可以进行优化的点:
-
Redisson中锁的种类有很多,目前的代码中把锁的类型写死了。
-
Redisson中获取锁的逻辑有多种,比如获取锁失败的重试策略,目前都没有设置。
优惠劵使用
用户领取到优惠劵之后,可以在下单的时候去进行使用,我们要实现优惠券方案自动推荐,就是从用户的所有优惠券中筛选出可用的优惠券,并且计算哪种优惠方案用券最少,优惠金额最高。
优惠劵方案思路分析
首先是查询用户所有的优惠劵,这步比较简单。
然后是对优惠劵先进行一步初筛,方案是直接计算所有课程的总价,看是否达到了优惠劵的使用要求。
紧接着是还要进行一步筛选,找出每一张优惠劵可以使用的课程,封装为
Map<Coupon, List<OrderCourseDTO> >,这样一张优惠劵就对应了可以使用的课程。原理是找出每一个优惠券的可用的课程,然后判断这些课程总价是否达到优惠券的使用需求(第一步筛选是所有课程总价,这一步是看能使用的课程的总价)。
然后对筛选过后所有可以使用的优惠劵做排列组合,获得所有使用方案。使用回溯算法就可以解决。
最后并发计算每种方案的优惠金额,找出最优解。这里使用CompleteableFuture并发计算。其中里面也是很多细节需要注意:
-
用券相同时,优惠金额最高的方案
-
优惠金额相同时,用券最少的方案
-
优惠劵折扣金额按比例分摊到每个课程
由于代码太过于复杂,这里仅介绍业务流程。
个人原创,创作不易,感谢支持!!