全面解析BotSharp:如何利用.Net和LLMs革新你的业务系统

        作为一名关注.Net与AI相关技术的博主,今天我要推荐一个开源项目——BotSharpBotSharp 是一个基于 .Net的智能代理应用程序构建框架,专注于连接大型语言模型(LLMs)到现有业务系统中,以促进会话即平台(Conversation as a Platform, CaaP)的建立。

        作为一个开源的AI代理应用程序框架,BotSharp为业务集成的应用程序提供了与大型语言模型(LLMs)相连接的能力,让开发者更加聚焦于业务本身。

        BotSharp 是一款面向AI机器人平台构建者的开源机器学习框架,它涉及到自然语言理解、计算机视觉和音频处理等众多技术,目的在于推动智能机器人助手在信息系统中的开发和应用。该框架内置了一系列机器学习算法,这让普通开发人员能够更快速、更简便地开发人工智能应用。

        BotSharp C# 编写,并在 .Net Core 上运行,这是一个完全跨平台的框架。它采取插件和流水线式执行设计,实现了对于插件的完全解耦。C# 作为一种企业级开发语言,广泛应用于信息管理系统中业务逻辑的编码,对企业开发人员更为友好。BotSharp 直接采用 C# 语言编写机器学习算法,这样可以充分发挥 C# 类型语言的特性,系统范围内重构代码将更为简便。

        BotSharp 严格遵守组件化原则,每一个需要的部分都被解耦,因此开发者可以根据需要选择不同的UI/UX,也可以选择不同的LLM提供商。这些都是基于统一接口的模块化设计。           

        BotSharp 提供了高级的代理抽象层,以有效管理企业中的复杂应用场景,允许企业开发者高效地将 AI 集成到业务系统中。

        此外,BotSharp 还可以搭配先前文章介绍的 LlamaSharp 来使用本地模型部署。

深入浅出LLamaSharp:打造智能.NET应用,不需GPU也能玩转LLaMA模型

2f0b74667abec5731f01a22acae14823.png

BotSharp 主要特点包括:

  • 内置多代理和带状态管理的会话机制。

  • 支持多种LLM规划方法处理不同任务。

  • 内建与 RAG 相关的接口,基于Memeory的向量搜索。

  • 支持多个 AI 平台(ChatGPT 3.5 / 4.0,PaLM 2,LLaMA 2,HuggingFace)。

  • 允许负责不同任务的多个代理合作完成复杂的任务。

  • 在一个地方构建、测试、评估和审核您的LLM代理。

  • 内置使用 SvelteKit 编写的 BotSharp 用户界面。

  • 抽象标准的富内容数据结构。与流行的消息渠道(如Facebook Messenger、Slack和Telegram)集成。

  • 提供 RESTful Open API 和 WebSocket 实时通讯。

快速开始:启动后端服务:

PS D:\> git clone https://github.com/dotnetcore/BotSharp
PS D:\> cd BotSharp
PS D:\BotSharp\> dotnet run -p .\src\WebStarter

运行 Admin UI 项目,参考 BotSharp UI:

PS D:\> git clone https://github.com/SciSharp/BotSharp-UI
PS D:\> cd BotSharp-UI
PS D:\> npm install
PS D:\> npm run dev

访问 http://localhost:5015/  查看效果。(连UI都做好了,而且非常精美。简直没谁了!!

在线演示:BotSharp 提供了在线的用户界面演示。

https://botsharp.azurewebsites.net/

153853878bc38be2aeb0da85959d31dc.png

e3dbd5f7e2bc9538b1c731f8e85c1af8.png

95ea2ead945fc06065bf74759fe0788d.png

04d8993705fe049fdd65f07326ac803e.png

核心模块:

核心模块主要由抽象和框架功能实现组成,并结合了一些常用工具。

  •  插件加载器

  •  挂钩

  •  认证

  •  代理资料

  •  对话与状态

  •  路线与规划

  •  模板化

  •  文件存储库

  •  缓存

  •  内容丰富

  •  LLM 供应商

插件: 

BotSharp 使用组件设计,核心被保持在最小化,业务功能由外部组件实现。模块化设计还允许贡献者更好地参与。以下是一些内建插件

数据存储插件

  • BotSharp.Core.Repository

  • BotSharp.Plugin.MongoStorage

LLMs插件

  • BotSharp.Plugin.AzureOpenAI

  • BotSharp.Plugin.GoogleAI

  • BotSharp.Plugin.MetaAI

  • BotSharp.Plugin.HuggingFace

  • BotSharp.Plugin.LLamaSharp

  • BotSharp.Plugin.SemanticKernel

消息/通道插件

  • BotSharp.OpenAPI

  • BotSharp.Plugin.ChatHub

  • BotSharp.Plugin.MetaMessenger

  • BotSharp.Plugin.Twilio

  • BotSharp.Plugin.TelegramBots

  • BotSharp.Plugin.WeChat

RAGs插件

  • BotSharp.Plugin.KnowledgeBase

  • BotSharp.Plugin.Qdrant

视觉插件

  • BotSharp.Plugin.PaddleSharp

工具插件

  • BotSharp.Plugin.RoutingSpeeder

  • BotSharp.Plugin.PizzaBot

UI 插件

  • BotSharp.Plugin.ChatbotUI

文档资料

如果你对BotSharp感兴趣,可以访问官方文档阅读更多详细信息:

https://botsharp.readthedocs.io

        如果你认为该项目对你有帮助,不妨给项目点个Star。

        BotSharpSciSharp Stack的成员项目,后者是基于.Net 的开源软件生态系统,用于数学、科学和工程领域。

        通过BotSharp.Net开发者不仅能在现有的应用程序中无缝集成AI功能,同时也能为企业提供强大、可定制的智能助理。当前AI技术的高速发展,为信息管理系统增添了智能的翅膀,让我们拭目以待,BotSharp如何在此基础上继续赋能开发者,掀起新一波技术革新。

        如果本文对您有帮助,欢迎您订阅我的公众号。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值