java:定时任务以及线程池任务投递

需求来源

有一套数据计算服务平台，基本架构是分布式文件系统 hdfs 存储原始数据，mysql 数据库存储计算模型路径 以及 任务记录。需要通过 hadoop 、spark等进行分布式任务计算。通过web 进行计算模型组织、任务投递以及结果查询。

解决问题

当任务投递到分布式计算系统之后，web 如何知道任务何时完成，如何获取任务计算结果（可能成功，也可能失败）

基本思想

实事上，分布式计算系统进行任务计算完成后，很难做到通知 web 已经完成任务。当然，有以下几种思路可以完成：

• 有本事的可以通过修改 hadoop 或者 spark 源码定制一套消息通知 RESTAPI ，这样看起来很合理，但是难度可想而知
• 在分布式计算系统中执行默认后台服务，定时捕捉计算任务完成，并通知webserver。这是很好的策略，但是意味着，除了部署分布式分布系统，还要根据 特定的 webserver 部署位置进行后台任务诸多配置。
• 在分布式任务提交的同时，按照特定模板组织一个回调。将回调设置为任务进程退出时执行（不论是正常退出还是异常退出均执行），可以将任务计算结果写回webserver
• 由webserver 执行定时任务，通过并发线程池投递向远程计算集群查询任务状态的任务，将查询到的结果写到数据库

web server 的定时任务

实际上，多数情况下使用后两种情况应该是比较好的。因为整个任务提交、监控都能由web server完成，计算集群只需要完成计算任务即可ÿ