微软博客上几篇 Semantic-kernel (SK)文章

自从最近微软开源Semantic-kernel  来帮助开发人员在其应用程序中使用AI大型语言模型(LLM)以来,Microsoft一直在忙于改进它,发布了有关如何使用它的新指南并发布了5篇文章介绍他的功能。

开发人员可以使用Semantic-kernel (SK) 创建自然语言提示、生成响应、提取信息、调用其他提示或执行可以用文本表示的其他任务。微软在3月17日开源Semantic-kernel (SK)时,提示是项目描述的关键部分:“Semantic-kernel  (SK)是一个轻量级SDK,可让您将C#和Python等传统编程语言与最新的大型语言模型(LLM)AI'提示'混合在一起,具有提示模板,链接和规划功能。

微软将更好的提示列为SK的四个关键优势之一:

  • 快速集成:SK旨在嵌入任何类型的应用程序中,使您可以轻松测试和运行LLM AI。

  • 扩展:借助 SK,您可以连接外部数据源和服务,使其应用程序能够将自然语言处理与实时信息结合使用。

  • 更好的提示:SK的模板化提示可让您使用有用的抽象和机制快速设计语义函数,以释放LLM AI的潜力。

  • 新奇但熟悉:传统编程语言代码始终可供您作为一流的合作伙伴,帮助您快速完成工程设计,可以两全其美。

微软(3月30日)发布了一篇题为“Semantic-kernel  规划器:嵌入和语义记忆的改进”[1]文章,详细介绍了该项目规划器技能的[2]改进,允许用户根据语义查询创建和执行计划。这篇文章解释了最近的调整,使规划器技能更加通用。

a6136973411217ad2517c8dbf57264f9.png

调整涉及将嵌入集成到 Planner 技能中,以增强其可用性和功能。嵌入[3]是数字向量或数组,表示模型处理的令牌的含义和上下文。嵌入用于编码和解码输入和输出文本,可以帮助LLM理解令牌之间的关系并生成相关且连贯的文本。它们用于文本分类、摘要、翻译和生成,包括图像和代码生成。

微软在文章中说到:“随着Semantic-kernel 在Alpha阶段的发展,我们将优先考虑使用嵌入进行规划创建的其他方法,这些方法将更加强大,” ,3月22日还有一篇文章“Semantic-kernel 嵌入和记忆:使用聊天UI探索GitHub Repos”[4] ,文章中进行了展示了嵌入,该文章解释了他们如何帮助开发人员提出有关GitHub存储库的问题或使用自然语言查询探索GitHub存储库。与嵌入一起,这是在SK存储器[5](嵌入集合)的帮助下完成的,这有助于为提示(或SK世界中的ASK)提供更广泛的上下文。

9bb08bc375323dab1bf34e8feb5d27f5.png

这篇文章重点介绍了一个示例应用程序GitHub Repo Q&A Bot[5],它展示了开发人员如何使用SK函数下载任何GitHub存储库,将其存储在内存(嵌入集合)中,并使用聊天UI进行查询。

微软表示,该示例可用作存储和查询项目的指南,例如:

  • 大型内部程序手册

  • 学生教育材料

  • 公司合同

  • 产品文档

微软在周一还有一篇题为“如何在几分钟内将Semantic-kernel 部署到Azure” [6]的文章,这是通过Azure Function完成的,Azure Function是微软的Serverless 计算服务,允许用户在不管理服务器或基础设施的情况下运行代码。该演示使用的是 Visual Studio Code,需要安装 Azure Tools [7]扩展。

如果你一直在关注Semantic-kernel  的GitHub仓库 :https://github.com/microsoft/semantic-kernel/ [8],可以看到自从开源以来,star的增长非常快,目前已经有3717个star,并且各项功能的开发也在紧锣密鼓的进行之中,正在添加对其他LLM 模型支持,例如例子 https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server[9],这也是第一个Python语言的例子 ,还有更多的语言支持在进行当中。

512a0a6d26980d0ff08cfe8056a0c9be.png

相关链接:

  • [1] Semantic-kernel  规划器:嵌入和语义记忆的改进: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-planner-improvements-with-embeddings-and-semantic-memory/

  • [2]规划器技能 :https://learn.microsoft.com/en-us/semantic-kernel/concepts-sk/planner

  • [3]嵌入:https://learn.microsoft.com/en-us/semantic-kernel/concepts-ai/embeddings

  • [4]Semantic-kernel 嵌入和记忆:使用聊天UI探索GitHub Repos: https://devblogs.microsoft.com/semantic-kernel/semantic-kernel-embeddings-and-memories-explore-github-repos-with-chat-ui/

  • [5]GitHub Repo Q&A Bot:https://aka.ms/sk/repo/samples/github-repo-qa-bot

  • [6]如何在几分钟内将Semantic-kernel 部署到Azure: https://devblogs.microsoft.com/semantic-kernel/how-to-deploy-semantic-kernel-to-azure-in-minutes/

  • [7]Semantic-kernel  的GitHub仓库 :https://github.com/microsoft/semantic-kernel/ 

  • [8]LLM模型 huggine-face:https://github.com/microsoft/semantic-kernel/tree/main/samples/apps/hugging-face-http-server

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值