SpringBoot异步任务(2)|(线程池使用)

SpringBoot异步任务(2)|(线程池使用)


章节
第一章链接: SpringBoot异步任务(1)|(异步任务执行以及回调)

前言

线程池开启异步任务在springboot中的使用

一、使用场景

项目中有一个批量调度的任务,客户上传批量的文章,让后将这些文章去进行任务处理

二、springboot添加异步任务

1.配置线程池

在springboot容器中配置线程池,后续使用直接将bean注入使用即可

@Configuration
@EnableAsync
public class ExecutorEmbPoolConfig {

    private static final Logger logger = LoggerFactory.getLogger(ExecutorEmbPoolConfig.class);

    @Value("${embedding.pool.corePoolSize:20}")
    private int corePoolSize = 20;
    @Value("${embedding.pool.maxPoolSize:20}")
    private int maxPoolSize = 20;
    @Value("${embedding.pool.queueCapacity:100000}")
    private int queueCapacity = 100000;

    private String namePrefix = "embedding-service-";

    @Bean(name = "embeddingServiceExecutor")
    public ThreadPoolTaskExecutor asyncServiceExecutor() {
        logger.debug("start embedding embeddingServiceExecutor");
        ThreadPoolTaskExecutor executor = new ThreadPoolTaskExecutor();
        //配置核心线程数
        executor.setCorePoolSize(corePoolSize);
        //配置最大线程数
        executor.setMaxPoolSize(maxPoolSize);
        //配置队列大小
        executor.setQueueCapacity(queueCapacity);
        //配置线程池中的线程的名称前缀
        executor.setThreadNamePrefix(namePrefix);
        // 允许回收核心线程
        executor.setAllowCoreThreadTimeOut(true);
        // CALLER_RUNS: 不在新线程中执行任务,而是有调用者所在的线程来执行
        executor.setRejectedExecutionHandler(new ThreadPoolExecutor.CallerRunsPolicy());
        //执行初始化
        executor.initialize();
        return executor;
    }
}

2.线程池的使用


  @Resource(name = "embeddingServiceExecutor")
  private ThreadPoolTaskExecutor executor;

  @Scheduled(cron = "0/30 * * * * ?")
  public void FileToMilvesJob() {
        //定义计数器
        List<DocumentMilvusRecord> documentMilvusRecords = recordService.findByStatus(RecordStatus.WAIT);
        if (CollectionUtils.isEmpty(documentMilvusRecords)) {
            return;
        }
        List<DocumentMilvusRecord> excuteList;
        if (documentMilvusRecords.size() > 50) {
            excuteList = documentMilvusRecords.subList(0, 50);
        } else {
            excuteList = documentMilvusRecords;
        }
        log.info("本次任务需要执行任务“{}条", excuteList.size());
        for (DocumentMilvusRecord record : excuteList) {
            recordService.updateRecordStatus(record);
            executor.execute(() -> {
                try {
                    docEmbeddingCreate(record); // 执行业务逻辑
                } catch (Exception e) {
                    log.error(e.getMessage());
                }
            });
        }


    }

总结

上面的方式实现了自定义一个线程池,然后执行任务的时候获取线程池并执行任务。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值