英特尔边缘计算社区

本文中，我们介绍了云边协同架构的优势、基于英特尔和 AWS 技术所开发的参考实现、以及更多帮助改善人类生活的用例。介绍了云边协同架构的优势、基于英特尔和 AWS 技术所开发的参考实现、以及更多帮助改善人类生活的用例。原文链接：https://www.intel.com/content/www/us/en/artificial-intelligence/posts/aws-cloud-collaboration-on-ai-inference.html目录- 前言- 云边协同架构的优势

本文要点了解如何借助 1 行代码，在 AWS SageMaker 中使用 OpenVINO™ 工具套件模型优化器将 TensorFlow 和 Keras 模型转换为 OpenVINO IR中间表示格式。 了解如何在英特尔® DevCloud 中，使用Jupyter notebook中的性能评测应用，在多个英特尔硬件上对模型进行一键性能指标评测。 了解如何使用英特尔® 边缘软件中心一键将AI推理应用和 OpenVINO 模型部署到边缘。原文链接：https://www.intel.com/conte

本文我们将在前面文章的基础上，介绍OpenVINO中最重要的组件推理引擎（IE） SDK如何与应用开发集成，实现深度神经网络模型的部署，前面我们已经知道跟IE相关的对象是Core，这里我们首先介绍如何使用IE的Core实现与应用集成，给应用程序添加人工智能相关的功能。推理引擎(IE)应用开发流程与相关函数介绍通过OpenVINO的推理引擎跟相关应用集成相关深度学习模型的应用基本流程如下：图-1从图-1可以看到只需要七步就可以完成应用集成，实现深度学习模型的推理预测，各步骤中相关的API函

1.0简介Yolov4 模型于2020 年中期推出，它的问世对深度学习目标检测领域产生了深远影响。为取得成功，Yolov4 集成了许多一流的技术，其中包括改进的非极大值抑制(NMS) 算法，该算法使用距离交并比(DIoU) 而非交并比(IoU)。DIoU 总结了边界框回归中的两个几何因素（即重叠区域和中心点距离），从而加快了收敛速度并提升了性能。在本白皮书中，DIoU-NMS 函数将被添加到OpenVINO™ 精度检查器工具中，以用于计算yolov4 的正确预期精度。尽管DIoU-NMS 可帮助大幅

1.0.简介本文档介绍了一种将带*.pt 扩展名的YOLOv5 PyTorch* 权重文件转换为ONNX* 权重文件，以及使用模型优化器将ONNX 权重文件转换为IR 文件的方法。该方法可帮助OpenVINO™用户优化YOLOv5，以便将其部署在实际应用中。此外，本文档提供了一个关于如何运行YOLOv5 推理的Python 推理演示，以帮助加快YOLOv5 的开发和部署速度。在最后一部分，针对使用NCS2 运行推理引擎引发的YOLOv5 模型准确度下降问题，本文亦提供了解决方案-修改与重建libmyri

注意 2020 版的发布说明，请参阅英特尔® Distribution of OpenVINO™ toolkit 2020 版的发布说明。简介英特尔® Distribution of OpenVINO™ toolkit 用于快速开发应用程序和解决方案，以解决各种任务（例如：模拟人类视觉、自动语音识别、自然语言处理和推荐系统等）。该工具套件基于最新一代的人工神经网络，包括卷积神经网络 (CNN)、递归网络和基于注意力的网络，可扩展跨英特尔® 硬件的计算机视觉和非视觉工作负载，从而最大限度地提高性能。.

OverviewThis reference implementation provides an AI-enabled approach toclassify an input frame from a textile inspection camera as defective or good.TextileDefectClassifieris a reference implementation that can be executedusing theIntel® Distr...

与传统的数据中心或云计算方案相比，边缘计算能够有效降低延迟，保证稳定服务，节约网络带宽，同时满足隐私性和安全性等方面的要求，可以看作是对云计算方案的有效补充与优化。因此，我们看到越来越多的方案将边缘计算与云计算结合起来，充分利用两者的优势，从而创造最为优化的解决方案。- 访问Intelligent Edge网站（Link: http://www.theintelligentedge.com/），您可以了解到大量基于intel与微软Azure云服务技术的成功方案。- 观看英特尔专家在微软Ignit..

人脸检测模型OpenVINO的模型库中有多个人脸检测模型，这些模型分别支持不同场景与不同分辨率的人脸检测，同时检测精度与速度也不同。下面以OpenVINO2020 R04版本为例来逐一解释模型库中的人脸检测，列表如下：在这里插入图片描述从列表中可以看出骨干特征网络主要是MobileNetv2与SqueezeNet两种支持实时特征网络，ResNet152是高精度的特征网络，检测头分别支持SSD、FCOS、ATSS。MobileNetv2版本的模型结构深度可分离卷积ResNet网络残差网络

一、概述... 21. OpenVINO™ Toolkit 22. Edge Software Hub – 英特尔边缘软件中心ESH.. 23. 基于 OpenVINO™的视觉边缘洞见平台... 2二、安装指南... 31. 准备目标机器及目标系统... 32. 下载Edge Vision软件包并保存Product Key. 43. 拷贝Edge Vision软件包到目标机器，并解压安装... 54. OpenVI...

今天再试试官方文档Remote Blob API of GPU Plugin里面的另一个例子Running GPU Plugin Inference within User-Supplied Shared Context，大概的意思就是由用户提供自己的OpenCL context，OpenVINO的clDNN利用用户共享的context来跑inference (对应的场景应该是用户已经有了自己的OpenCL实现的应用，然后要把OpenVINO GPU推理功能集成进自己应用的场景)。官网的例子只给出了一部

前一阵尝试了一下OpenVINO纯GPU推理的代码实现, 主要复现了OpenVINO官方文档Remote Blob API of GPU Plugin 中的 OpenCL Kernel Execution on a Shared Buffer例子官方示例的完整实现可以具体参考这篇文章 OpenVINO 2020r3 体验GPU Remote Blob API在代码里，把OpenVINO clDNN的cl::context提取出来，再基于这个context创建了cl::device和cl::qu.

接下来试试超分的INT8量化, 还是拿waifu2x模型来试验首先毫无意外的掉进坑里了... ...本来系统里已经装好了OpenVINO 2021r2, 想直接从这个版本开始，先安装accuracy_checker和pot的最新版本到openvino_2021\deployment_tools\open_model_zoo\tools\accuracy_checker目录下运行python setup.py install安装成功，再到openvino_2021\deploym.

最后试一下waifu2x, 因为我一直都喜欢waifu2x, 觉得他们家的超分算法在动画图像上的效果真的很惊艳，很久以前体验过windows版本，那时候机器又破，还用的是电脑上的caffe框架，超分个图片慢如老牛拉车。现在正好试试OpenVINO能不能加个速。先从https://github.com/lltcggie/waifu2x-caffe/releases/tag/1.2.0.4下载一个release包 waifu2x-caffe.zip所有的模型放在models目录下，这里用了upco...

想多看看OpenVINO 2021r2对各种SR模型计算层的支持怎么样，再试一下DBPN, 这个是NTIRE2018超分8倍的冠军， 只随便测试一下2X的模型从网上找了个基于caffe的模型 https://github.com/alterzero/DBPN-caffecaffe是个非常老的框架了 OpenVINO应该支持的非常好了.关于推理数据的预处理和后处理，从原项目可以看出就是简单的除以255.0和乘以255.0 %% work on illuminance only...

接下来试试EDSR，NTIRE2017 超分辨率挑战赛的第一名随便从网上找了个模型 https://github.com/achie27/super-resolution ，在这个项目里EDSR是用pytorch实现的，对于OpenVINO来说，MO不支持pth格式的模型，必须转换到ONNX格式的模型才行。所以要利用这个项目里自带的to_onnx.py来做。首先对原项目里的to_onnx.py做一下修改，原始项目里的代码是基于有cuda加速的pytorch写的，对于我这台只有集成显卡..

最近把OpenVINO升级到了最新版本（超级不喜欢openvino这点，每次升级都要换几个接口，虽说API会向前兼容几个版本，不过跟起来真累啊，OpenCV, FFMPEG也是这样，是不是开源项目都是这么玩的啊... ） 顺便来试试看最新版本的OpenVINO对图像超分的模型支持的怎么样。先从FSRCNN 开始，毕竟这是图像超分的经典模型，运算量小推理速度快，超分效果又好。从https://www.github.com/Saafke/FSRCNN_Tensorflow上看具体的实现，FSRCNN

本文我们将在前面文章的基础上，介绍OpenVINO中最重要的组件推理引擎（IE） SDK如何与应用开发集成，实现深度神经网络模型的部署，前面我们已经知道跟IE相关的对象是Core，这里我们首先介绍如何使用IE的Core实现与应用集成，给应用程序添加人工智能相关的功能。推理引擎(IE)应用开发流程与相关函数介绍通过OpenVINO的推理引擎跟相关应用集成相关深度学习模型的应用基本流程如下：图-1从图-1可以看到只需要七步就可以完成应用集成，实现深度学习模型的推理预测，各步骤中相关的API函

本文转载自CGTNCGTN：数字经济是中国十四五规划中的重要主题。英特尔接下来几年在数字经济中的战略和部署是什么？杨旭：在英特尔看来，数字经济始于数据。现在数据总量正在指数级高速增长，人们正在关注这一新趋势。怎么让数据吸引人、对消费者来说有价值呢？我认为，英特尔一定会继续加快转型，从以PC为中心转向以数据为中心，从CPU公司转型至XPU公司，在数字经济世界里提供一个端到端的解决方案。具体来说，我们会继续加大围绕人工智能、5G、边缘基础设施、智能云的投资。我们在全球都会转型，但我们在中国的转型可能..

基于人工智能（Artificial Intelligence, 以下简称 AI）技术，为用户提供更为丰富多彩且能“投其所好”的在线视频服务，已成为众多网络视频服务商的共识。作为国内网络视频服务领域的领先企业，爱奇艺一直都在积极推动AI应用与视频服务的融合，在智能创作、智能生产、智能播放等全流程智能视频服务中已获取累累硕果。随着视频 AI 应用的不断推陈出新及其在视频服务中戏份的逐渐加重，它们对爱奇艺基础设施也提出了新的挑战。为应对这些挑战，爱奇艺将 AI 与云计算结合，构建了创新的Jarvis 深度学习

“机器人帮助我们解决‘手’和‘脚’的问题，而机器视觉则解决‘ 眼’和‘脑’的问题。优秀的算法和强劲的计算力，是我们工业视觉检测云平台得以发挥价值的重要前提。英特尔® Analytics Zoo 大数据分析和 AI 平台的引入，为云平台提供了端到端的算法训练和云计算部署能力，而英特尔® 至强® 可扩展处理器则帮助它算得更快、更好。英特尔软、硬件产品与技术的结合，帮助我们在智能制造之路上迈出了坚实的一步。”--胡正 美的视觉研究所所长

OpenVINO™工具套件■ OpenVINO™ 工具套件能够加速深度学习推理，支持异构部署，具备模型量化功能并预置多种优化过的AI框架。■它帮助爱奇艺提升实时弹幕显示推理速度达5倍，提升文本检测推理性能达11倍。■它帮助西门子MRI的AI分析效能提升达原来的5.5倍。■它帮助首云将AI业务并发接入能力提升了2.4倍。经历了之前几期对至强平台的揭秘，我们想必都已了解：英特尔® 至强® 平台对于AI应用的加速，从来都不是依靠某个单一的产品或技术特性来实现的。我们看到英特尔® AV...

随着深度学习方法在音视频处理、自然语言处理、图像识别等领域获得更广泛的应用，作为众多深度学习模型和应用的载体，为之提供完备部署和运行环境支持的AI框架（AI Framework）开始为人们所熟知。一个明显的例子就是TensorFlow、PyTorch、MXNet这些过去只出现在AI开发者口头的框架名称，也开始被各行各业的数据科学家和企业管理者们提及，因为他们都期待或正在利用这些框架来降低深度学习部署和应用门槛，加速AI应用的落地。当然，AI框架还有另一个关键作用，就是扮演类似资源管理或调配者的...

深度学习是人工智能（AI）近几年重新走红的功臣，也是吞噬算力的巨大“黑洞”。据评估，仅对一个图像分类器进行训练，可能就需耗费次单精度操作[1]。在商业化深度学习应用纷纷落地的今天，用户的既有算力储备正受到前所未有的挑战。传统上，大多数深度学习应用在其训练和推理工作负载中多采用32位浮点精度（FP32）。高精度数据格式固然能带来更精确的结果，但囿于系统内存带宽等限制，深度学习在执行操作时，往往易陷入内存瓶颈而影响计算效率。这就如同协调工程车辆奔赴工地，传统的宽大工程车固然装载量(精度)较大，但在有限的

Analytics Zoo:■ Analytics Zoo是英特尔开发和开源的统一大数据分析+AI平台；■它为英特尔架构基础设施提供性能优化，支持多种主流AI框架；■它助美的工业视觉检测云平台将模型推理时间从2秒减至124毫秒；■它助某商业银行无缝对接大数据平台与AI应用，将资产提升预测AUC 值提至93%；■它助金风慧能智能功率预测准确率从59%提至79.41%。人工智能（AI）的发展，离不开算力、算法和数据这个“铁三角”组合的驱动，它们之间的平衡发展，对AI技术的快速...

凡是在 Intel DevMesh 网站成功提交 oneAPI 项目的小伙伴，均可获得各种精美奖品！oneAPI 作为单体系结构编程方法的一种替代方案，可实现跨不同类型不同代际硬件架构 的直接编程，快速提高开发人员的工作效率。oneAPI 平台可确保您的代码满足未来需求， 您现在编写的代码将能充分利用未来的全新或更强大硬件加速器。只要你懂 C++、DPC++或者 CUDA，就可参加！还不太了解 oneAPI 没关系，下面这个最新培训课程带你全方位搞定！https://v.qq.com/x..

一、注册ESH开发者账户1.登录网址：Edge Software Hub2.点击右上角的登录按钮，在弹出界面中点击’在此注册’3.填写个人信息并提交，收到邮件后点击激活，到这一步账号注册就成功了。二、下载Use Cases列表中的智能交通管理1.登录界面，点击蓝色按钮2.跳转到下载页面，我们可以看到智能交通管理需要安装的组件有三个，分别是Docker CE、Docker Compose和OpenVINO Container。右侧我们可以选择软件版本，这是

一、用例介绍我们知道，保持必要的社交距离和戴口罩可以有效降低疫情传播的风险。多摄像头社交距离检测用例可以检测人员并根据多个输入源计算人员之间的社交距离，并对违规人员进行标记和计数，且在浏览器中实时可视化，从而提供了一种预防疾病传播的解决方案。二、支持的软硬件平台系统要求：Ubuntu18.04.3 LTS / CentOS 7.x 硬件要求：具有英特尔Iris Plus图形或英特尔HD图形的第六至第十代英特尔酷睿处理器 外设要求：usb摄像头三、工作原理 本用例使用了英特尔的人脸检测

一、用例介绍该用例使用OpenVINO工具包包含的推理引擎，显示了如何在工业质量检验应用中利用分类网络的示例。该用例提供了一种支持人工智能的方法来将来自织物检查摄像机的输入帧分类为缺陷或良好。二、安装环境硬件要求： 英特尔处理器 系统要求： Ubuntu18.04 LTS OpenVINO: 2021.2 python: 3.6 安装用时: 30min三、工作原理1.纺织品检验视频：用于模拟纺织品检查摄像机的示例视频。该视频包括五种常见的纺织品缺陷，其中一些不容易被人眼注意到。

英特尔边缘软件中心（Edge Software Hub）由英特尔在2020年全球发布，汇聚了英特尔整合的针对各类边缘计算应用领域的软件资源，包括软件堆栈，参考架构，参考用例等。该文章整理了目前英特尔边缘软件中心的各类支持资源列表并不断更新，帮助您快速获取需要的资源与支持。英特尔边缘软件中心首页| 订阅最新内容 I 官方视频站目录英特尔边缘软件中心 - 软件资源列表边缘软件平台边缘参考用例最新更新英特尔边缘软件中心 - 开发者博文英特尔边缘软件中心 - 视频培训英特尔..

英特尔® OpenVINO™工具套件中级课程面向有一定基础的学员。若您是一名计算视觉技术的初学者，我们将建议您先学习英特尔®OpenVINO™工具套件的初级课程，再进行中级课程的学习。本课程将主要介绍计算机视觉应用的相关知识，特别是英特尔®OpenVINO™工具套件的整体架构以及使用方法。整个课程的视频课程部分包含了OpenVINO™模型优化器和推理引擎的使用，视频解码的OpenCV，Me...

英特尔OpenVINO™工具包简介OpenVINO™工具包可快速部署模拟人类视觉的应用程序和解决方案。该工具包基于卷积神经 网络（CNN），可在英特尔®硬件上扩展计算机视觉（CV）工作负载，从而最大限度地提高 性能。OpenVINO™工具包括深度学习部署工具（DLDT）。OpenVINO™工具包介绍：https://img-bss.csdnimg.cn/202006021752426779.pdf OpenVINO™最新发布：https://img-bss.csdnimg.cn/202006021