lambda架构,实时和离线对数难道不是每天都会例行化程序地进行对数(由于离线是T+1,只能对昨天的指标);还是说偶然发现问题后,进行对数?
答:开发初期,对数比较困难。两条链路并行后会有程序化脚本对数据,出现问题排查相对复杂。有特殊需求比如运营发现某个报表数据有问题,这个数据来源于离线和实时,会手动对数。另外比较困难的是,如果数据源发生变更,两条链路都要升级后,又要来一遍对数。
总之因为是两套代码,上游出现改动,大家就会提心吊胆,做各种数据比对
lambda架构,实时和离线对数难道不是每天都会例行化程序地进行对数(由于离线是T+1,只能对昨天的指标);还是说偶然发现问题后,进行对数?
答:开发初期,对数比较困难。两条链路并行后会有程序化脚本对数据,出现问题排查相对复杂。有特殊需求比如运营发现某个报表数据有问题,这个数据来源于离线和实时,会手动对数。另外比较困难的是,如果数据源发生变更,两条链路都要升级后,又要来一遍对数。
总之因为是两套代码,上游出现改动,大家就会提心吊胆,做各种数据比对