Dataloop 集成 NVIDIA NIM 以加速生成式 AI 的运行和部署

最新推荐文章于 2024-10-02 00:23:27 发布

迪普微社区

最新推荐文章于 2024-10-02 00:23:27 发布

阅读量63

点赞数

分类专栏：行业资讯文章标签：人工智能业界资讯 ai NVIDIA 平台汽车

原文链接：https://www.semiconductor-digest.com/dataloop-integrates-nvidia-nim-to-accelerate-running-and-deploying-generative-ai/

版权

行业资讯专栏收录该内容

110 篇文章 2 订阅

订阅专栏

Dataloop 是一家用于构建和部署强大 AI 应用程序的企业级端到端 AI 开发平台提供商，今天宣布与 NVIDIA NIM 推理微服务集成。

根据麦肯锡的数据，生成式人工智能可以使多达70%的业务活动自动化，但采用人工智能的道路可能漫长且充满坑洼。在一项调查中，超过一半的人工智能项目正在生产中的公司仍处于试点或概念验证阶段。在管理良好、优化的数据的支持下，促进高效的 AI 开发是释放 AI 价值的关键。通过将 NVIDIA NIM 嵌入 Dataloop 的 AI 开发平台，该公司正在帮助企业在生产中加速和实现生成式 AI 概念。该集成将使 Dataloop 用户受益于增强的安全性和对生成式 AI 应用程序和数据的控制，并在他们选择的基础设施中自托管部署最新的 AI 模型，无论是在本地还是在云中。它还将为 Dataloop 用户提供一种无缝部署 NVIDIA 优化和加速模型的方式，从而简化构建创新 AI 应用程序的过程，从而帮助加速生成式 AI 的采用和分发。

NVIDIA NIM 是 NVIDIA AI Enterprise 软件平台的一部分，是一组推理微服务，可简化生成式 AI 模型的部署。它通过持续维护的预构建的云原生微服务来加快价值实现时间，从而在 NVIDIA 加速基础设施上提供优化的推理，为开发人员提供专为企业环境量身定制的行业标准 API 和工具。NIM 还利用具有专用功能分支的企业级软件、严格的验证流程，并支持在云、数据中心和工作站上部署企业生成式 AI 模型。

Dataloop首席执行官Avi Yashar表示：“将NVIDIA NIM集成到Dataloop平台中标志着我们致力于为用户提供最佳AI开发工具的一个重要里程碑。与NVIDIA的合作不仅增强了我们平台的功能，还使企业能够更高效、更轻松地利用尖端AI技术，从而推动了AI行业的创新。

NVIDIA 战略企业合作伙伴关系副总裁 Pat Lee 表示：“开发人员正在寻求一种快速且可访问的途径来构建具有企业运营所需的速度、准确性和安全性的生成式 AI 应用程序。“通过将 NVIDIA NIM 集成到 Dataloop 平台中，开发人员可以更轻松地定制和实施复杂的生成式 AI 管道。”

Dataloop 产品提供全面的开发人员体验，并与任何 NIM 微服务无缝衔接。用户只需单击一下，即可将自定义 NIM 微服务直接部署到管道中，速度提高 ~100 倍，将它们顺利集成到任何 AI 解决方案和工作流程中。这种集成的常见用例包括检索增强生成（RAG）、大型语言模型（LLM）微调、聊天机器人、从人类反馈中强化学习（RLHF）工作流等。这种强大的集成有望加速 AI 数据管道和生成式 AI 模型的部署，这些模型在汽车、零售、媒体等各个行业中都有应用。