AI模型集成到业务系统的方式演化

如今，AI模型百花齐放，在业务场景中的使用是越来越多，那AI模型是如何集成到系统中的呢？这几年的集成方式又有何变化呢？

在一些早期系统中，模型比较简单，这时，真正在线上系统部署模型时，模型只是以算法的形式出现，模型参数作为算法所需要的“数据”，存储在内存或分布式缓存（如Redis）中。模型在推理运算时，从缓存中取出参数，再结合特征，完成模型预测推理运算。
这样的一些集成方式，多见于一些早期的推荐系统，模型也相对比较简单，如LR、FM、FFM等。这种方式将算法与参数分离，使其可以各自演化、迭代。如模型参数更新时，只需要更新缓存数据，系统可能并不需要上线。一定程度上的满足了工程上的需要。

但随着模型越来越复杂，以Redis缓存模型为代表的方式，逐渐不符合现代模型的需要。以PMML、sklearn为代表的模型框架的方式出现了。模型框架本身提供了多种模型的实现方式，
并提供了推理接口。业务系统集成时，将模型框架集成到系统当中。这时模型一般是以文件的形式存在。也可以满足一定程度上单独演化的需要。

但上述方式也有其问题，一方面模型以文件的形式集成到系统内，更新不方便。另一方面，模型的更新速度一般都比较快，一旦模型更新（结构或参数），系统就需要上线，非常不方便。

于是第三种方式出现了，即模型服务的方式。这种方式，模型以分布式API服务的形式&#x