OpenVINO™ DEVCON 中国 · 系列工作坊2023第二期:使用 OpenVINO™ 加速生成式 AI

点击蓝字

关注我们,让开发变得更有趣

“

生成式 AI 正在迅猛发展，像一颗火箭般带来无数可能和颠覆性应用！最新发布的文本处理模型甚至具备解决复杂问题、参加医学和法律考试的超能力！但是，让我们来揪心一下：这些厉害的模型能否在英特尔的 CPU 和最新的 GPU 上高效运行呢？

别担心！英特尔与 Hugging Face 举办了一场研讨会，OpenVINO™ DEVCON 中国 · 系列工作坊 2023 第二期:使用 OpenVINO™ 加速生成式 AI，深入探讨了 Transformer 模型的奇妙世界和稳定的扩散！而且，英特尔的 OpenVINO™ 和 Hugging Face Hub 为开发者们提供了超给力的优化模型工具和最新动态！还有基于 OpenVINO™ 和 Jupyter Notebook 的实践教程，让你亲身感受这些工具的强大！不管你是新手小白还是经验丰富的大神，通过本次分享，你都能获得满满的知识和实用的技能！快来跟着我们的回顾，一起探索更多有趣的干货吧～

”

01

使用 OpenVINO™ 加速生成式 AI

武卓-英特尔 OpenVINO™ 布道师

杨亦诚-英特尔 AI 软件工程师

 生成式 AI 的魅力与 OpenVINO™ 的加持

杨亦诚老师为我们揭开了生成式 AI 的神秘面纱，并分享了使用 OpenVINO™ 来提升性能和缩小模型体积的技巧。生成式 AI 广泛应用，但也存在一些痛点，如庞大的模型、高内存占用、慢推理速度和难以优化。

不过，别担心！OpenVINO™ 来了，它能解决所有这些问题，让生成式 AI 更出色！杨亦诚老师还向我们展示了一个令人兴奋的先驱模型- Stable Diffusion，它可以根据指令生成对应的画面，点燃了生成式 AI 的火花！

但由于生成式 AI 体积庞大，终端用户需要漫长等待才能得到结果，这对用户体验来说是糟糕的。好消息是，武卓老师向我们分享了一个开源套件-OpenVINO™ ，它可以让一切变得简单起来，并解决用户的五大痛点。让我们告别长等待，让一切变得更简单、更迅速！

 OpenVINO™ 助力 Stable Diffusion 模型推理 

杨亦诚老师通过一段精彩的 Demo 演示，展示了 Optimum-Intel OpenVINO™ 工具套件的强大功能，简洁易用。只需几行代码，即可轻松进行 Stable Diffusion 模型推理，适用于不同硬件平台。OpenVINO™ 还支持主流学习框架训练的模型，如 PyTorch 和 Paddle Paddle。Optimum-Intel 和 OpenVINO™ 的结合，实现了快速加速和部署 Stable Diffusion 模型。

02

Hugging Face Hub 介绍及开源库新进展

程 路- Hugging Face Fellow

Hugging Face AI 开发者的挚友！

在本次分享中，我们要聊聊生成式 AI 的模型和算法。但在这之前，我不得不提一个超级重要的平台- Hugging Face！它就像我们 AI 开发者的挚友一样。

程路老师为我们分享了 Hugging Face 不仅仅是一个平台，它还推出了许多核心产品。其中，Hugging Face Hub 就像是机器学习的 Github，开发者和从业者们可以在这里托管自己的模型、数据集和实例应用。在 Hugging Face 上，我们可以找到各种各样的机器学习应用，包括自然语言处理、计算机视觉、强化学习等等。而且，通过 Hugging Face 的开源页面，我们可以了解到更多有关这些应用的分类和详情。

除了这些，Hugging Face 还推出了每日论文推荐页面，为大家提供与机器学习相关的内容。AK 大神也入驻了 Hugging Face，今后将为大家带来更多有趣的论文推荐和更新！此外，程路老师还向我们介绍了 Gradio 这个 Python 开源库，以及 Hugging Face 发起和联合推出的众多项目。其中，Diffusers、PEFT 和Transformers Agents 等新发布的库都可以在 Hugging Face 的 Github 组织里查看、使用和贡献。

还有一件很酷的事情是，Hugging Face 与 Intel 合作，为了让 Hugging Face 的用户更方便地在 Intel 平台上部署和优化模型。一起打造了 Intel AI 工具，为大家提供更多便利。在 Hugging Face 模型页面，专门加入了一个标签，叫 OpenVINO™，你可以在这里查看经由 OpenVINO™ 优化过的模型。而在全球社区的共建上，OpenVINO™ 也是一个非常重要的合作伙伴之一。

以上就是本次分享的回顾内容。希望大家通过本次的分享，对生成式 AI 的模型和算法有了更深入的了解。快来观看活动回放，了解更详细的内容和精彩的 Demo 演示。让我们一起探索生成式 AI 的无限可能！

👇

--END--

你也许想了解(点击蓝字查看)⬇️➡️ OpenVINO™ DevCon 2023重磅回归！英特尔以创新产品激发开发者无限潜能➡️ 5周年更新 | OpenVINO™  2023.0，让AI部署和加速更容易➡️ OpenVINO™5周年重头戏！2023.0版本持续升级AI部署和加速性能➡️ OpenVINO™2023.0实战 | 在 LabVIEW 中部署 YOLOv8 目标检测模型➡️ 开发者实战系列资源包来啦！➡️ 以AI作画，祝她节日快乐；简单三步，OpenVINO™ 助你轻松体验AIGC
➡️ 还不知道如何用OpenVINO™作画？点击了解教程。➡️ 几行代码轻松实现对于PaddleOCR的实时推理，快来get！➡️ 使用OpenVINO 在“端—边—云”快速实现高性能人工智能推理➡️ 图片提取文字很神奇？试试三步实现OCR！➡️【Notebook系列第六期】基于Pytorch预训练模型，实现语义分割任务➡️使用OpenVINO™ 预处理API进一步提升YOLOv5推理性能

扫描下方二维码立即体验 
OpenVINO™ 工具套件 2023.0

点击 阅读原文 立即体验OpenVINO 2023.0

文章这么精彩，你有没有“在看