下一幕，边缘！百度飞桨携手英伟达EGX打造边缘AI技术底座

最新推荐文章于 2023-03-08 14:45:50 发布

seeme2again

最新推荐文章于 2023-03-08 14:45:50 发布

阅读量89

点赞数

本文链接：https://blog.csdn.net/seeme2again/article/details/103680995

版权

AI的下一个机遇正在边缘爆发。12月18日，英伟达GTC CHINA 2019这一年度AI盛会于苏州正式开幕，英伟达创始人CEO黄仁勋到场发表演讲，强调了边缘智能新机遇。会议中，百度开源深度学习平台飞桨宣布已适配NVIDIA EGX边缘计算平台，飞桨深度学习推理模型可直接在EGX平台上运行，并提供端云协同解决方案。双方强强联手，为边缘AI落地打造了坚实技术底座。

让 AI 在数据产生的地方执行，无论是在工厂设施、零售门店或是仓库。万物智联时代，大量机器传感器和 IoT 设备将不断涌现需要被处理的数据，云端AI处理带来的延迟无法满足真实生产需求。AI 与 5G 携手将 AI 计算从数据中心推向边缘，通过高性能边缘计算，在边缘侧实现快速响应、实时决策，是产业应用的真实诉求也是行业重要的发展方向。

NVIDIA EGX是一个可以根据需求灵活配置的云原生边缘计算平台。它可以从容应对工厂、医院、零售、交通、5G、城市管理等不同应用场景的需求，使IT部门进行快速部署并交付新一代人工智能服务成为可能。NVIDIA Jetson系列产品作为NVIDIA EGX平台的嵌入式成员，可以应用于功耗要求更低、体积要求更小、环境条件更加严苛的环境。

百度深度学习开源平台飞桨实现了针对GPU平台的算法优化。通过百度飞桨得到的深度学习推理模型，可以直接运行在NVIDIA EGX边缘计算平台上。

而针对搭载AI模型的端侧设备越来越多，模型的动态管理和持续迭代问题。飞桨服务平台EasyDL和EasyEdge还提供了一套端云协同的定制化AI模型训练与服务管理解决方案：EasyDL提供了丰富而领先的预训练模型，数据管理、模型训练与迭代、服务部署的全流程支持，开发者可以基于EasyDL高效构建高精度AI模型；通过EasyEdge，开发者可以快速获得适配多种芯片平台的端计算加速模型，产出的SDK可直接下发至包括NVIDIA Jetson嵌入式产品的EGX平台上。

目前，百度飞桨+英伟达Jetson解决方案已在众多行业落地，带来了切实的效率提升。如中国智能制造领域质检行业领军企业武汉精测，经常会面临在有限洁净间面积下最大化产能的问题，需要检测设备体积小、功耗低、处理速度快。结合飞桨工业应用的技术优势和Jetson平台运算能力优势，实现了算法在Jetson平台中的快速移植和高效优化，解决方案在满足算法性能和实时性的同时，完美解决了上述问题，使企业产能大幅提升。

此次百度飞桨与英伟达EGX的深度适配，为边缘AI应用打造了坚实技术底座。更安全的城市、更智能的零售店、更聪明的对话式智能助手、更精准的制造机器人……万物智能时代，已越来越触手可及。

百度飞桨GTC China公开课拆解深度学习

在GTC第二天的上午，百度飞桨还为参会开发者及合作伙伴带来一场详解深度学习及应用的飞桨GTC China公开课。

来自百度飞桨的技术“大牛”，从飞桨深度学习核心框架、工具和套件，到服务平台及应用进行全面解析，帮助企业开发者更快聚焦匹配自身业务需求的开发模块，高效上手应用，与众多开发者在“高能”三小时中一同“烧脑”！

公开课上，百度工程师逐一介绍了飞桨的优势及新特性，并针对到场的企业开发者介绍了PaddleDetection、PaddleSlim、ERNIE和EasyDL等快速上手的开发模块、模型。飞桨以百度多年的深度学习技术研究和业务应用为基础，集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体，是开源开放、功能完备的产业级深度学习平台。

百度飞桨具备开发便捷的核心框架、支持超大规模深度学习模型训练、多端多平台部署的高性能推理引擎和产业级开源模型库等领先技术，具有鲜明的源于产业实践的特色。

在今年11月飞桨的重大升级中，PaddleDetection也在更小、更快、更优的模型建设方面取得成效。据介绍，增强版YOLOv3模型相比如原作精度提高8.4个绝对百分点，预测速度提升20%，NAS版Blazeface讲模型存储压缩3倍，预测加速2倍，另有基于PaddleDetection发布的百度自研冠军模型。公开课上，百度工程师还展示了PaddleDetection在模型压缩、部署等方面的成功工业应用案例，为企业开发者提供实操案例指导。

AI技术正在引发工业生产方式的剧变，公开课上，分享者带来了可以有效提高工业级数据处理效率的PaddleSlim。PaddleSlim可为开发者提供蒸馏、量化、剪枝、网络结构搜索等深度学习模型小型化压缩技术，具有接口简单，压缩效果好，功能强大，用法灵活的特点。对飞桨模型库中的检测、分类、分割等视觉任务全面支持，对NLP、语音等任务也支持良好，是学术研究及工业落地的必选工具。

面向企业应用的ERNIE语义理解开发套件也是当时AI领域中的技术新星。ERNIE是持续学习语义理解预训练模型与框架，支持全类训练，保证极速推理，并兼顾灵活部署，具备轻量方案、数据蒸馏与离线向量化等特点。全新支持NLP预训练模型的ERNIE，内置了业内最好效果的中文语义表示模型ERNIE，提供分类、可根据用户需求快速选择、配置网络进行训练，实现更高精度模型效果，以及更快速的模型训练。

此次公开课还带来了强化学习入门分享，以及被开发者所熟悉的EasyDL专业版解析与实践。最受新手开发者关注的当属相关课程和实训的介绍，在公开课最后，百度飞桨向在座开发者发出邀请，共同参与到深度学习和飞桨的系统化培训课程中来，在提升技术能力的同时，也可以选择AI Studio深度学习开发实训平台进行落地应用的实践。

在三小时的公开课中，到场的每位开发者都全神贯注，或者奋笔疾书或者随时用电脑记录要点，全程“无尿点”。现场企业开发者表示，“全是干货!通过这次公开课，不仅了解到飞桨是什么，同时也了解到我们企业能用它做什么，感觉非常实用。”在原定的分享时间以外，不少开发者将百度飞桨的分享者团团围住，深入探讨在实际应用中的技术问题。

有趣的是，一款飞桨定制的充电宝成为现场“人气王”。参与公开课现场签到任务即可参与抽奖，更具纪念意义的三等奖飞桨定制充电宝简直“一宝难求”，甚至有开发者表示希望能参加下一场公开课，带走一个属于飞桨开发者的专属纪念。

除了公开课，大会还开设了飞桨相关的专属展区，百度技术人员向开发者介绍和展示了飞桨丰富的官方活动、技术社群和教育类资源……干货满满的飞桨展区更是吸引了“黄教主”到场参观，现场异常火热。