AWS面向AIOT的思考

AIOT, 概括为云端训练，边缘推理，在云平台上运用各种AI/ML工具，训练出模型，然后将模型推送到边缘设备，然后当传感器感知后，将信息输入到边缘设备，然后边缘设备通过模型直接进行运算并得出结论作出响应。而这些输入输出信息又可以提交到云平台作为基础数据，进行训练，整体上形成一个闭环的自循环的AIOT。

所以可以看出云端训练，面向历史数据，重在训练模型，而边缘推理，面向实时数据，重在部署模型，并根据模型得出结果。

IOT物联网收集数据，DT大数据技术ETL数据，甚至有初步BI可视化展示，然后通过AI训练模型，再回馈给IOT。

以上流程，AWS提供全套解决方案。在IOT端，提供Greengrass软件，安装在边缘设备中，它支持docker与lamda，可安装Tensorflow/MXNet等框架，用于模型部署、推理与推送数据至云端，而在云端，通过各种大数据技术，比如使用ElasticSearch做数据的清洗与可视化展示，然后通过各种AI服务(面向软件工程师，通过上传数据与调用API即可实现智能化)和ML服务(面向数据工程师，通过对各流行机器学习与深度学习框架集成，满足各种训练需要)。

AI服务

视觉CV：Amazon Rekongnition

语音：Amazon Polly

聊天机器人：Amazon Lex

预测：Amazon Forcast

ML服务

Amazon SageMaker

它支持的框架包括：TensorFlow、PyTorch、Apache MXNet、Chainer、Keras、Gluon、Horovod、Scikit-learn 和 Deep Graph Library。

 

案例1：

Amazon 包裹打包，解决客户开箱体验，节省企业成本。

案例2：

睿视智觉工业AI自训练系统，帮忙用户封装算法至设备，取代人工质检，甚至可用于生物细胞检验，其实只要有关视觉方面检验，这套解决方案都适用。

他们从最早的，把算法放到客户机器，进行训练，到目前远程把算法训练好，远程传到设备。

设备拍照>机器学习分析>出报告

客户本地将数据标注好，放到AWS，云端自动训练与测试，生成模型报告，比如对缺陷1敏感，对缺陷2不敏感，那么客户就可以再上传更多的缺陷2的数据。可以等报告针对所有缺陷都训练好再使用，或者对部分训练好的也可以直接使用。

案例3：

闹腾科技非标机加工件核价，解决非标机加工件核定价格问题，把原来依赖老师傅定价，训练模型，取代老师傅。

根据老师傅的经验去构建模型，然后通过历史数据训练得出模型。最后部署上云，提供API给甲方集成到现有系统，然后甲方客户通过线上上传他们的加工件3D模型，直接生成报价给用户。

其中对于初创者几点启示：

AWS提供Deep learning AMI，已包含TensorFlow,PyTorch，所以马上就可以用，不用花时间在部署软件上。

训练用GPU，而部署/预测用CPU，然后通过API，供企业调用。

GPU非常昂贵，AWS做到按需收费，对于初创公司节约成本非常重要。