目录
AI的未来已经到来,而.NET已经为此做好了准备!使用.NET 8,您可以创建出色的应用程序,这些应用程序将语言模型集成到您的新项目和现有项目中。您可以使用自己喜欢的工具、服务和框架将想法转化为解决方案。我们使学习、构建和部署LLM(大型语言模型)应用程序变得比以往任何时候都更容易。
在Build 2024上,我们与H&R Block合作,展示了如何为您的.NET应用程序注入AI。在这篇文章中,我们将向你概述该会话中显示的.NET和AI,并向你指出最新的示例、库和我们针对.NET和AI所有内容的新文档中心。
我为什么要关心使用AI构建应用程序?
如果您还没有开始探索AI解决方案,这里有一些令人信服的理由:
- 提高用户参与度和留存率:提供更相关和更令人满意的互动。
- 提高生产力和效率:减少错误并节省时间。
- 创造新的商机:提供创新和增值服务。
- 获得竞争优势:领先于市场趋势并满足客户期望。
这些只是将AI集成到解决方案中的众多好处中的一小部分。今天就让我们深入了解一下.NET开发人员的体验。
如何开始
如果你不熟悉AI开发,请查看新的.NET + AI文档和示例。此处还包括一组快速入门指南,可帮助你动手操作代码并亲自尝试,将Open AI模型与Azure OpenAI SDK或语义内核库结合使用,将Open AI模型与Azure OpenAI SDK或语义内核库结合使用。
若要浏览利用Azure中可用的AI服务的更多示例,请查看最近使用新示例扩展的适用于.NET和AI的Azure开发人员模板。
什么是语义内核,我为什么要使用它?
在我们的许多示例中,你会看到我们使用语义内核(SK)——SK是一个开源库,可让您轻松构建可以调用现有代码的AI解决方案。作为高度可扩展的SDK,您可以使用语义内核来处理来自OpenAI、Azure OpenAI、Hugging Face等的模型。您还可以连接到流行的矢量商店,例如Qdrant、Milivus、Azure AI搜索以及越来越多的其他列表。
虽然您可以使用自己的.NET SDK和REST终结点来处理各种模型和向量存储,但语义内核可以更轻松地执行此操作,同时最大程度地减少对代码的影响。它提供了一组通用的抽象,可用于在.NET中使用依赖项注入访问模型和向量存储;因此,在试验和迭代应用程序时,您可以替换不同的组件。
在本地和生产环境中监视应用程序
在Build大会上,我们还演示了如何调试和诊断AI解决方案,包括生产环境中的监控。Semantic Kernel支持对AI调用进行端到端的可追溯性和调试,帮助您诊断性能、质量和成本。SK建立在 OpenTelemetry(OTLP)协议之上,可以使用任何支持它的商店或报告工具轻松监控您的应用程序。
.NET Aspire还为调试和诊断应用程序提供强大的支持。通过在.NET OpenTelemetry SDK(OpenTelemetry可观测性框架的.NET实现)的基础上构建,.NET Aspire简化了日志记录、跟踪和指标的配置。在开发时,使用.NET Aspire仪表板可以轻松可视化日志、跟踪和指标。当需要将应用程序部署到生产环境时,可以利用Prometheus和Azure Monitor等工具和服务。
有关详细信息,请参阅 .NET Aspire遥测文档。
建立在坚实的AI基础之上
.NET运行时和库不断发展,以更原生地拥抱人工智能领域,为开发人员提供强大的工具来构建AI应用程序。标记化库简化了文本数据的预处理,简化了AI模型输入的上下文管理或文本准备。最近添加的 Tensor(一种旨在表示AI基本数据结构的类型)以及TensorPrimitives(一套为Tensor类型量身定制的数学运算)使.NET开发人员能够在坚实可靠的基础上构建AI应用程序。随着时间的推移,这些组件将集成到现有的库中,例如ML.NET、TorchSharp和ONNX,以提高效率。同时,它们将作为新图书馆出现的基础平台。这些进步确保了.NET生态系统始终处于AI革命的最前沿,为涉足机器学习和AI世界的开发人员提供了无缝且强大的体验。
使用小型语言模型(SLM)在边缘的AI
近几个月来,小型语言模型(SLM)的公开可用性有所增加。在Build 2024上,几场会议重点介绍了Phi和Phi-3 Vision等模型,展示了它们在本地和边缘运行的能力。OnnxRuntime GenAI等库使.NET开发人员能够利用这些模型,从而显著增强他们构建符合特定需求的定制解决方案的能力。这种能力不仅使AI技术民主化,还为开发人员提供了设计解决方案的灵活性,这些解决方案针对其独特的应用场景进行了优化,从而推动了AI驱动应用的创新和效率。
一个不断增长的工具生态系统,用于改进您的应用程序
面向.NET开发人员的AI工具和服务生态系统持续增长。在Build 2024上,宣布了几个项目,这些项目也可能对.NET开发人员特别感兴趣:
还有一些与许多.NET开发人员在我们的应用程序中使用的技术相关的新公告:
如今,谁在使用.NET构建AI解决方案?
H&R Block使用.NET和Azure OpenAI开发了一种创新的AI税务助手,以帮助客户处理与税务相关的查询。该助手通过提供个性化的建议和清晰的指导来简化流程,从而增强用户体验和效率。该项目展示了.NET在构建可扩展的AI驱动解决方案方面的能力。H&R Block的这一进步为希望将AI集成到自己的应用程序中的开发人员提供了一个鼓舞人心的例子。
要了解有关H&R Block如何使用.NET构建AI的旅程和经验的更多信息,请查看我们在Build 2024中的会议,其中我们展示了如何将您的.NET应用程序注入AI。
我在哪里可以了解更多信息?
对深入了解感到兴奋吗?以下是一些有用的链接,可帮助您开始学习并与我们的团队建立联系: