Semantic Kernel[1] 是一个开源的将大型语言模型(LLM)与流行的编程语言相结合的SDK,Microsoft将Semantic Kernel(简称SK)称为轻量级SDK,结合了OpenAI,Azure OpenAI和Hugging Face等AI LLM的集成。它使开发人员能够通过编排 AI 组件并将其与现有代码集成来创建 AI 应用。SDK 提供对 Java、Python 和 C# 的支持。它提供了用于添加内存和AI服务的连接器,为应用程序创建模拟的“大脑”。语义内核支持来自不同提供商的插件,为开发人员提供自己的 API,并简化 AI 服务的集成,使开发人员能够利用最新的 AI 进步并构建复杂和智能的管道。Microsoft今年3月份时候首次开源了SK,SK不仅支持C#、还支持Java和 Python编程语言。
生成式AI 应用开发所带来新的语义编程,国际组织世界经济论坛[2],已经认识到提示工程在科技行业的重要性日益增加。它甚至将其列为三大新兴工作[3]之一,强调了它的重要性。提示工程是一种允许应用程序将LLM用于各种用例的方法,它重塑了应用程序的开发方式,并且可以将LLM用于多个垂直用例。这对于使用 C# 或者 Java 的开发人员特别有益,因为在许多任务关键型和业务系统中得到了广泛使用C# 或者Java ,Python只是在机器学习领域的训练模型阶段得到了大量的应用,在传统的机器学习的推理阶段大量的工程实践是采用C/C++ 。生成式AI 有一次将AI 广泛集成到任务关键型和业务系统提供动力。
Semantic Kernel 为提示工程师面临的挑战提供了一个解决方案。它使开发人员能够使用多个提示作为技能,链接[4]这些提示,并定义在提示[5]之间共享的上下文[6]。对于开发人员来说,它也可以被视为对提示管道和常用的设计模式的管理。
最近的这一年AIGC 的浪潮突显了流行编程语言中集成人工智能的持续发展。随着LLM变得越来越复杂,他们的应用程序更加多样化,像 Semantic Kernel 这样的工具在允许开发人员有效和高效地利用其潜力方面将变得越来越重要。
Microsoft Build 2023 推出了 Copilot Stack,自此,大模型应用在企业中的落地有了很好的方法论。基于 Copilot Stack 服务,我们只需通过开源框架 Semantic Kernel,即可打通代码与 Prompt 之间的联系,同时,使用 Planner,还可以更有效地规划人机对话方式,帮助企业快速融入智能化应用。
Semantic Kernel 在中国有着相当一部分的用户,除传统的 .NET 开发者外,很多 Python 开发者以及 Java 开发者也是 Semantic Kernel 的忠实用户。Semantic Kernel 结合主流的编程语言,为企业级别的 Copilot 应用保驾护航。我特别整理了一份Semantic kernel的社区资源:https://github.com/geffzhang/awesome-semantickernel[7]。
9月23日,「Semantic Kernel 开发者日暨 Semantic Kernel 技术社区成立仪式」重磅来袭!汇聚数位微软最有价值专家、行业专家以及技术大咖,探讨大语言模型生态下基于 Semantic Kernel 的开发与实践,并共同见证 Semantic Kernel 技术社区的成立。
相关链接:
[1]Semantic Kernel:https://github.com/microsoft/semantic-kernel
[2]世界经济论坛: https://www.weforum.org/
[3] 三大新兴工作: https://www.weforum.org/agenda/2023/03/new-emerging-jobs-work-skills/
[4]链接: https://learn.microsoft.com/en-us/semantic-kernel/ai-orchestration/chaining-functions
[5]提示:https://learn.microsoft.com/en-us/semantic-kernel/prompt-engineering/prompt-template-syntax
[6]上下文:https://learn.microsoft.com/en-us/semantic-kernel/memories/embeddings
[7]Semantic kernel的社区资源:https://github.com/geffzhang/awesome-semantickernel