使用.NET 8构建生成式AI应用

寒冰屋

于 2024-09-01 17:50:38 发布

阅读量15

点赞数

分类专栏： CSharp.NET 人工智能文章标签：人工智能 .NET8

原文链接：https://devblogs.microsoft.com/dotnet/build-gen-ai-with-dotnet-8/

版权

CSharp.NET 同时被 2 个专栏收录

1225 篇文章 57 订阅

订阅专栏

人工智能

555 篇文章 57 订阅

订阅专栏

一个不断增长的工具生态系统，用于改进您的应用程序

如今，谁在使用.NET构建AI解决方案？

我在哪里可以了解更多信息？

AI的未来已经到来，而.NET已经为此做好了准备！使用.NET 8，您可以创建出色的应用程序，这些应用程序将语言模型集成到您的新项目和现有项目中。您可以使用自己喜欢的工具、服务和框架将想法转化为解决方案。我们使学习、构建和部署LLM（大型语言模型）应用程序变得比以往任何时候都更容易。

在Build 2024上，我们与H&R Block合作，展示了如何为您的.NET应用程序注入AI。在这篇文章中，我们将向你概述该会话中显示的.NET和AI，并向你指出最新的示例、库和我们针对.NET和AI所有内容的新文档中心。

我为什么要关心使用AI构建应用程序？

如果您还没有开始探索AI解决方案，这里有一些令人信服的理由：

提高用户参与度和留存率：提供更相关和更令人满意的互动。
提高生产力和效率：减少错误并节省时间。
创造新的商机：提供创新和增值服务。
获得竞争优势：领先于市场趋势并满足客户期望。

这些只是将AI集成到解决方案中的众多好处中的一小部分。今天就让我们深入了解一下.NET开发人员的体验。

如何开始

如果你不熟悉AI开发，请查看新的.NET + AI文档和示例。此处还包括一组快速入门指南，可帮助你动手操作代码并亲自尝试，将Open AI模型与Azure OpenAI SDK或语义内核库结合使用，将Open AI模型与Azure OpenAI SDK或语义内核库结合使用。

若要浏览利用Azure中可用的AI服务的更多示例，请查看最近使用新示例扩展的适用于.NET和AI的Azure开发人员模板。

什么是语义内核，我为什么要使用它？

在我们的许多示例中，你会看到我们使用语义内核（SK）——SK是一个开源库，可让您轻松构建可以调用现有代码的AI解决方案。作为高度可扩展的SDK，您可以使用语义内核来处理来自OpenAI、Azure OpenAI、Hugging Face等的模型。您还可以连接到流行的矢量商店，例如Qdrant、Milivus、Azure AI搜索以及越来越多的其他列表。

虽然您可以使用自己的.NET SDK和REST终结点来处理各种模型和向量存储，但语义内核可以更轻松地执行此操作，同时最大程度地减少对代码的影响。它提供了一组通用的抽象，可用于在.NET中使用依赖项注入访问模型和向量存储;因此，在试验和迭代应用程序时，您可以替换不同的组件。

在本地和生产环境中监视应用程序

在Build大会上，我们还演示了如何调试和诊断AI解决方案，包括生产环境中的监控。Semantic Kernel支持对AI调用进行端到端的可追溯性和调试，帮助您诊断性能、质量和成本。SK建立在 OpenTelemetry（OTLP）协议之上，可以使用任何支持它的商店或报告工具轻松监控您的应用程序。

.NET Aspire还为调试和诊断应用程序提供强大的支持。通过在.NET OpenTelemetry SDK（OpenTelemetry可观测性框架的.NET实现）的基础上构建，.NET Aspire简化了日志记录、跟踪和指标的配置。在开发时，使用.NET Aspire仪表板可以轻松可视化日志、跟踪和指标。当需要将应用程序部署到生产环境时，可以利用Prometheus和Azure Monitor等工具和服务。

有关详细信息，请参阅 .NET Aspire遥测文档。

建立在坚实的AI基础之上

.NET运行时和库不断发展，以更原生地拥抱人工智能领域，为开发人员提供强大的工具来构建AI应用程序。标记化库简化了文本数据的预处理，简化了AI模型输入的上下文管理或文本准备。最近添加的 Tensor（一种旨在表示AI基本数据结构的类型）以及TensorPrimitives（一套为Tensor类型量身定制的数学运算）使.NET开发人员能够在坚实可靠的基础上构建AI应用程序。随着时间的推移，这些组件将集成到现有的库中，例如ML.NET、TorchSharp和ONNX，以提高效率。同时，它们将作为新图书馆出现的基础平台。这些进步确保了.NET生态系统始终处于AI革命的最前沿，为涉足机器学习和AI世界的开发人员提供了无缝且强大的体验。

使用小型语言模型（SLM）在边缘的AI

近几个月来，小型语言模型（SLM）的公开可用性有所增加。在Build 2024上，几场会议重点介绍了Phi和Phi-3 Vision等模型，展示了它们在本地和边缘运行的能力。OnnxRuntime GenAI等库使.NET开发人员能够利用这些模型，从而显著增强他们构建符合特定需求的定制解决方案的能力。这种能力不仅使AI技术民主化，还为开发人员提供了设计解决方案的灵活性，这些解决方案针对其独特的应用场景进行了优化，从而推动了AI驱动应用的创新和效率。

一个不断增长的工具生态系统，用于改进您的应用程序

面向.NET开发人员的AI工具和服务生态系统持续增长。在Build 2024上，宣布了几个项目，这些项目也可能对.NET开发人员特别感兴趣：

还有一些与许多.NET开发人员在我们的应用程序中使用的技术相关的新公告：

如今，谁在使用.NET构建AI解决方案？

H&R Block使用.NET和Azure OpenAI开发了一种创新的AI税务助手，以帮助客户处理与税务相关的查询。该助手通过提供个性化的建议和清晰的指导来简化流程，从而增强用户体验和效率。该项目展示了.NET在构建可扩展的AI驱动解决方案方面的能力。H&R Block的这一进步为希望将AI集成到自己的应用程序中的开发人员提供了一个鼓舞人心的例子。