AI大模型时代的边云协同之EdgeX Foundry

点击蓝字

关注我们,让开发变得更有趣

作者：

孙敏 EdgeX中国项目联合创始人，全球TSC委员

张晶 EdgeX Foundry技术布道师

01

边缘计算与EdgeX Foundry

边缘计算是一种分布式计算架构，它将数据的处理分散到网络的边缘，即靠近数据源的位置，而不是集中在远程的数据中心。这种计算方式旨在减少数据的传输延迟，降低带宽使用，提高应用性能，并为物联网（IoT）和人工智能（AI）等新兴技术提供支持。

边缘计算的概念最早可以追溯到1990年代，当时的研究主要集中在内容分发网络（CDN）上，即通过在全球分布的服务器网络上缓存内容来提高网页加载速度；

2000年代初，随着移动计算和智能手机的普及，计算开始从固定的数据中心向用户设备转移。这一时期，边缘计算的概念开始扩展到移动设备上。

2000年代中期，云计算成为主流，大量数据被传输到远程数据中心进行处理和分析。然而，这种方法带来了网络延迟和数据传输成本的问题；为了解决云计算中心化所带来的问题，边缘计算再次受到重视，企业和研究机构开始探索如何将计算任务从云端迁移到网络边缘，以减少延迟，提高响应速度。

2010年代末，5G网络的推广为边缘计算提供了新的发展机遇。5G的低延迟和高带宽特性使得边缘计算更加可行，尤其是在自动驾驶、远程医疗和工业自动化等对实时性要求极高的应用场景中。

2017年，EdgeX Foundry这个开源的边缘计算框架正式成为Linux基金会项目。在EdgeX Foundry社区、LF Edge社区、边缘计算产业联盟等组织的推动下，边缘计算开始形成行业标准，并建立起了自己的生态系统。

随着AI技术的兴起，边缘计算将跟AI进一步融合，在诸如工业互联网、智慧能源、智能交通、智慧城市、智能制造等越来越多的行业中发挥重要作用。

图1-1边缘计算发展史

02

什么是EdgeX Foundry

EdgeX Foundry是Linux基金会的一个开源的，与硬件和操作系统无关的，基于微服务和松耦合构架的边缘计算框架，旨在帮助用户轻松连接云并管理边缘端的设备，加速物联网解决方案的部署，如下图所示：

图1-2 EdgeX Foundry框架

EdgeX Foundry

在中国的生态伙伴

EdgeX Foundry社区在中国已运营多年，有300+生态伙伴, 5000+活跃开发者, 80+万关注者，覆盖芯片厂商、云服务提供商、通信服务提供商、软件开发商、高校研究所、解决方案集成商和终端用户。

03

EdgeX+OpenYurt实现边云协同

OpenYurt是业界首个非侵入的云边协同的云原生平台，master组件部署在云端，可以方便的管理分散的边缘机器和设备。在边缘云原生生态合作中，通过集成EdgeX Foundry等IoT解决方案，给用户提供云原生的边缘设备管理能力。详细介绍请参见《OpenYurt探索：非侵入式云原生技术助力高效云边协同》。

04

EdgeX+OpenVINO™实现边缘AI推理

通过EdgeX Foundry通过gRPC与OpenVINO™ Model Server，方便实现边缘数据采集、AI推理和设备管理，如下图所示。详细实现请参考《基于EdgeX+OpenVINO™ 的边缘智能融合网关YiFUSION》。

05

总结

在AI解决方案的背景下，EdgeX Foundry与OpenYurt配合，通过非侵入的方式，实现云原生的能力，简化了与云端之间的互操作；与OpenVINO™ Model Server配合，以微服务的方式，实现了边缘端AI推理，从而加速边云协同AI解决方案落地。

更多EdgeX Foundry信息，欢迎访问：

https://www.edgexfoundry.org/

OpenVINO™

--END--

你也许想了解(点击蓝字查看)⬇️➡️ 隆重介绍 OpenVINO™ 2024.0: 为开发者提供更强性能和扩展支持➡️ 隆重推出 OpenVINO 2023.3 ™ 最新长期支持版本➡️ OpenVINO™ 2023.2 发布：让生成式 AI 在实际场景中更易用➡️ 开发者实战 | 基于 OpenVINO™ 和 LangChain 构建 RAG 问答系统➡️ 开发者实战 | 如何利用低比特量化技术进一步提升大模型推理性能➡️ 开发者实战 | 介绍OpenVINO™ 2023.1：在边缘端赋能生成式AI➡️ 基于 ChatGLM2 和 OpenVINO™ 打造中文聊天助手➡️ 基于 Llama2 和 OpenVINO™ 打造聊天机器人➡️ OpenVINO™ DevCon 2023重磅回归！英特尔以创新产品激发开发者无限潜能➡️ 5周年更新 | OpenVINO™  2023.0，让AI部署和加速更容易➡️ OpenVINO™5周年重头戏！2023.0版本持续升级AI部署和加速性能➡️ OpenVINO™2023.0实战 | 在 LabVIEW 中部署 YOLOv8 目标检测模型➡️ 开发者实战系列资源包来啦！➡️ 以AI作画，祝她节日快乐；简单三步，OpenVINO™ 助你轻松体验AIGC

扫描下方二维码立即体验 
OpenVINO™ 工具套件 2024.0

点击 阅读原文 立即体验OpenVINO™ 2024.0

文章这么精彩，你有没有“在看”？