机器视觉算法及应用 第2版 pdf_AI赋能产业 全新OpenVINO从视觉向语音进发

在铺天盖地的AI概念中，很多AI软件和项目集中在以机器学习和算法研究等模型方面，真正赋能到产业中的AI并不算多，反而是在很多工业应用中的部分嵌入式AI正在发挥着自身的价值，但这部分AI却往往被主流的AI圈“嫌弃”其微弱的算力和简单直接的功能。
我们承认AI在真正广泛的应用之前，需要庞大复杂的算法和更多的机器学习研究，但AI的发展不能离开对产业潜移默化的改变，看不到商业上实实在在的价值是无法让成熟的产业界接受AI的改造的。

这，恰恰是OpenVINO这个平台区别于其他AI软件或平台最大的特点，那就是立足于服务行业应用，将机器视觉处理与AI推断更接地气地融合在一起赋能产业，快速的助力开发者设计具有当前实际应用价值的解决方案。

身处庞大的物联网生态中，赋能行业是英特尔物联网部门的核心追求，因此在突出智能边缘的过程中，除了大幅提升边缘设备的计算能力之外，OpenVINO这样的融合AI与视觉处理的平台最大的初衷就是帮助行业客户快速开发创新型的解决方案，而不是跟其他AI平台一样只瞄准算法科学家等研究人群。 正如英特尔公司物联网事业部中国区首席技术官兼首席工程师张宇对该平台非常实在的定位，“它可以帮助开发者解决最后一公里的问题，开发者可以设计很多的应用去开发很多的网络模型，这些网络模型最终怎么跑到硬件平台上，最后一公里的问题如何来解决，这是我们这个工具套件想要达到的一个效果。” 最近，英特尔携手开发者生态伙伴举办了以“聚力智能边缘，与开发者同行”为主题的交流会。会上除了发布超越了视觉应用、可提供语音分析能力的最新版本英特尔®OpenVINO工具套件2021.1版之外，特别邀请电力行业的开发者现身说法，介绍OpenVINO如何将AI与行业应用相结合，提供改变传统运作方式的创新方案。 “创新是英特尔整个物联网战略一个重要抓手，但实际上创新的主体是开发者，为了帮助开发者，英特尔从开发者的角度出发，提供了一系列的软件和工具，去加速整个创新的步伐，这是我们的一个思路。我们是通过产品的领导力、创新方案的推动力、以及生态的构建力，这三力齐发来去赋能智能的边缘。”张宇在活动中这样表达英特尔物联网部门对赋能产业创新的战略定位。

英特尔公司物联网事业部中国区首席技术官兼首席工程师张宇博士介绍新版OpenVINO™工具套件 在整个物联网数据里，大概有80%的数据是跟视觉和图像相关的，有20%的数据是其他类型的数据，这正是OpenVINO最开始瞄准机器视觉和人工智能融合应用的出发点。 在视觉应用方面取得成功之后，随着人工智能应用不断的普及，我们看到，除了计算机视觉以外，其他类型媒体的数据，尤其是语音的数据，在我们日常生活中发挥着越来越大的作用，作为人机接口中最方便也是最常用的方式，语音识别在人工智能应用中扮演的角色越来越重要， “我们在OpenVINO最新版本里，也考虑到了对于语音类的人工智能应用处理的要求，这是我们做新的OpenVINO它的新的功能的一些思考的出发点。”张宇直接点出2021版本OpenVINO最大的亮点。(当然2021版OpenVINO还有特别多的更新内容，比如OpenVINO还支持最新的第11代酷睿处理器 Tiger Lake，它可以充分利用Tiger Lake所提供的CPU的计算能力和集成显卡处理的能力，来实现人工智能一些推理的操作。大家请参考电子产品世界网站和微信公众号之前的文章，我们全文刊登了由英特尔专家刘波翻译的此次更新的全文内容。) 在这个新版本里OpenVINO是通过对硬件和软件综合的支持，来提供对于语音一个处理的能力。张宇介绍新版本利用了英特尔一个新的硬件GNA，它的全称叫做高斯神经网络加速器，它是集成在酷睿处理器芯片里的AI加速引擎。这个引擎的特点是，能在很低的功耗进行工作，非常适合去做语音这样的流媒体数据的处理。 在软件方面英特尔做了两方面的工作，第一方面的工作是提供了DL Streamer开发工具，帮助开发者构建在实际应用中所需要的处理应用的流水线，这也是OpenVINO突出其面向实际应用开发的特点之一。 另外在软件方面英特尔还提供了一个Open Model Zoo，它把开发者比较常用的人工智能的网络实现出来，而且利用手头上已有的数据做初步的训练，得到一个训练结果，开发者如果不是一些特殊的使用场景，完全可以利用在Open Model Zoo里所带的模型直接使用，去做数据的处理。在语音方面，针对常用的语音处理网络，新版本OpenVINO特别提供了几个已经实现的Model。我们已经在这次的OpenVINO Open Model Zoo里提供了相应的实践和一些预训练的结果。有了这样一些硬件和软件的支撑，就能够帮助语音类的开发者快速的去构建语音处理应用。 最重要的是，张宇特别强调 OpenVINO提供了一个Model Server，Model Server是一个容器化的模型的服务，大家可以把它理解成是一个微服务，可以帮助开发者很方便的把OpenVINO所提供的人工智能推理能力方便的部署在数据中心的云平台或是在边缘的基础架构之上。 现在有了微服务以后，可以通过一些接口，比如gRPC的接口，或者RESTfull的一些接口，去收集、接收不同用户给它发的请求，用户可以把自己对于图象处理数据或者音频数据处理的请求通过接口发给微服务，微服务会统一的去调用平台上的硬件资源来进行处理，然后把处理的结果返回给相应的用户，这样就可以极大的提高处理的效率，达到资源利用的一个最大化。 针对那些现在没有足够多的硬件来运行OpenVINO或者是硬件无法支持所需的全部硬件软件环境的开发者，英特尔还提供了DevCloud 服务，DevCloud for the Edge是一个免费的可以帮助开发者进行深度学习推理的一个云端的计算开发平台。在这个平台上面它搭载了英特尔全系列智能边缘硬件产品，以及预装好了OpenVINOTM，以及相关的软件开发工具。开发者借助DevCloud 这个平台，可以进行学习，进行探索，开发自己深度学习的一些推理算法。 更重要的是，可以免费利用这些云端资源，对自己深度学习推理的算法进行测试，根据实际运行下来的结果进行优化，找到适合的平台。通过这样的方式，更多开发者可以真正做到先体验再下单采购去部署。这样的方式也帮我们更多的开发者，以及一些中小型的企业解决了很多资金、内部资源短缺的问题，能够让更多的开发者接触到英特尔全面全系列的硬件，能够有机会开发出更多更好的产品。 介绍了这么多OpenVINO新版本的内容，似乎离我们说的赋能产业有点远，那么下面我们就分享一个OpenVINO领航者联盟成员的故事，电力行业是大家都离不开的保障性行业，电网的复杂性远远超出很多软件开发者的想象。华北电力大学的郑华教授坦言，电网的智能化很可能是国内现在最迫切也是走在世界前沿的智能应用，因为无论规模还是终端量，都是全世界几乎无法想象的。 从2020年6月份中电联公布我们国家的数据，到2019年底，35千伏及其以上电压输配电路已经达到193.5万公里，全国的变电站中35千伏以上的变电站是8万多座，总共装了多少支智能电表，国网公司这一个地方到去年年底就已经有4.57亿支智能电表，这仅仅是智能电表，还不算安装TTU、DTU那些终端还都不算，还不算在线路上装了很多测量状态的传感器和环境监测的传感器以及各种各样的摄像头。每年国家电网仅检修线路的人力资源投入就是数以百万人/工作日的工作量计算的。 仅仅以一个中型变电站的压板的问题为例，一个500千伏变电站里面有大概100多个平柜，每个平柜上面有10到将近100个压板，大家算一下这一个站里有多少个压板？ “那么日常人去运维这个事情就变的非常困难，很大的工作量，尤其半夜2、3点钟的时候你去动那个压板试试，你都不知道是不是动的是对的，虽然一般来说，一个巡检团队都是由2-3个人去构成的，一个是操作员，一个是唱票员，还有一个监督员，但大家都糊涂，所以很容易出现这个问题，”郑教授描述了一个我们日常非常容易出错但又影响巨大的实际场景，”半夜2、3点去操作走错间隔了，这很现实，因为到那个时候人的精神状态长期去这么工作的时候是非常疲惫，不是你不认真，而是你的体力不允许你，注意力没有那么强。由于误操作造成断电的影响是巨大的，这就需要人工智能来进行实时监控，在边缘侧这种看似很简单的东西就需要整合我们大量的信息，就要边缘侧进行计算分析，而不能说我这个东西发到遥控中心去，遥控中心算了半天才告诉你说5分钟之后，锁早打开了，出事了。所以说在边缘侧计算智能分析过程就非常重要，当然在这个过程中少不了OpenVINO的作用。” 郑教授的学生段云琦就是针对实际工作中这样的场景，经过短短三个月的时间利用OpenVINO成功设计出来这样一个变电站压板检测这样一个解决方案的一个原形，采用结合OpenVINO，结合我们深度学习的一些目标检测算法，包括多阵融合等等一些技术，来提高压板检测的准确率，目前正在跟各方进行更深入的商业化过程。 赋能产业，助力开发者快速实现解决方案，是OpenVINO最显著的特点，这点在郑教授的总结中有实际的感悟，通过OpenVINO融合解决了几个问题，第一高性能计算，高性能带来很多的好处，高性能体现在两个方面，一个方面来说支撑主流框架，TensorFolw、PyTorch等等这些主流框架都支持，就减轻了很多的工作量。 第二个问题就是在英特尔框架下，它可以把原来非实时的东西搞成实时，这个非常重要，所以它的性能提升就不是一点点的问题，所以在精度尽可能不损失的条件下，或者有限损失的条件下达到实时性是可以接受的。 第三在实际变电站中是很容易遇到的一个问题，系统太多，设备太多，操作系统多，硬件平台差异太大，你要想部署一个东西很难。OpenVINO具有一个很大的特点，只要是在英特尔平台上基本上不需要改什么东西就可以直接操作，用起来很简单而且学习起来成本又很低。 扫码入群 扫码添加管理员微信

加入“电子产品世界”粉丝交流群

↓↓↓↓点击，查看OPENVINO生态社区