作为一名关注.Net与AI相关技术的博主,今天我要推荐一个开源项目——BotSharp。BotSharp 是一个基于 .Net的智能代理应用程序构建框架,专注于连接大型语言模型(LLMs)到现有业务系统中,以促进会话即平台(Conversation as a Platform, CaaP)的建立。
作为一个开源的AI代理应用程序框架,BotSharp为业务集成的应用程序提供了与大型语言模型(LLMs)相连接的能力,让开发者更加聚焦于业务本身。
BotSharp 是一款面向AI机器人平台构建者的开源机器学习框架,它涉及到自然语言理解、计算机视觉和音频处理等众多技术,目的在于推动智能机器人助手在信息系统中的开发和应用。该框架内置了一系列机器学习算法,这让普通开发人员能够更快速、更简便地开发人工智能应用。
BotSharp 用 C# 编写,并在 .Net Core 上运行,这是一个完全跨平台的框架。它采取插件和流水线式执行设计,实现了对于插件的完全解耦。C# 作为一种企业级开发语言,广泛应用于信息管理系统中业务逻辑的编码,对企业开发人员更为友好。BotSharp 直接采用 C# 语言编写机器学习算法,这样可以充分发挥 C# 类型语言的特性,系统范围内重构代码将更为简便。
BotSharp 严格遵守组件化原则,每一个需要的部分都被解耦,因此开发者可以根据需要选择不同的UI/UX,也可以选择不同的LLM提供商。这些都是基于统一接口的模块化设计。
BotSharp 提供了高级的代理抽象层,以有效管理企业中的复杂应用场景,允许企业开发者高效地将 AI 集成到业务系统中。
此外,BotSharp 还可以搭配先前文章介绍的 LlamaSharp 来使用本地模型部署。
深入浅出LLamaSharp:打造智能.NET应用,不需GPU也能玩转LLaMA模型
BotSharp 主要特点包括:
-
内置多代理和带状态管理的会话机制。
-
支持多种LLM规划方法处理不同任务。
-
内建与 RAG 相关的接口,基于Memeory的向量搜索。
-
支持多个 AI 平台(ChatGPT 3.5 / 4.0,PaLM 2,LLaMA 2,HuggingFace)。
-
允许负责不同任务的多个代理合作完成复杂的任务。
-
在一个地方构建、测试、评估和审核您的LLM代理。
-
内置使用 SvelteKit 编写的 BotSharp 用户界面。
-
抽象标准的富内容数据结构。与流行的消息渠道(如Facebook Messenger、Slack和Telegram)集成。
-
提供 RESTful Open API 和 WebSocket 实时通讯。
快速开始:启动后端服务:
PS D:\> git clone https://github.com/dotnetcore/BotSharp
PS D:\> cd BotSharp
PS D:\BotSharp\> dotnet run -p .\src\WebStarter
运行 Admin UI 项目,参考 BotSharp UI:
PS D:\> git clone https://github.com/SciSharp/BotSharp-UI
PS D:\> cd BotSharp-UI
PS D:\> npm install
PS D:\> npm run dev
访问 http://localhost:5015/ 查看效果。(连UI都做好了,而且非常精美。简直没谁了!!)
在线演示:BotSharp 提供了在线的用户界面演示。
https://botsharp.azurewebsites.net/
核心模块:
核心模块主要由抽象和框架功能实现组成,并结合了一些常用工具。
-
插件加载器
-
挂钩
-
认证
-
代理资料
-
对话与状态
-
路线与规划
-
模板化
-
文件存储库
-
缓存
-
内容丰富
-
LLM 供应商
插件:
BotSharp 使用组件设计,核心被保持在最小化,业务功能由外部组件实现。模块化设计还允许贡献者更好地参与。以下是一些内建插件
数据存储插件
-
BotSharp.Core.Repository
-
BotSharp.Plugin.MongoStorage
LLMs插件
-
BotSharp.Plugin.AzureOpenAI
-
BotSharp.Plugin.GoogleAI
-
BotSharp.Plugin.MetaAI
-
BotSharp.Plugin.HuggingFace
-
BotSharp.Plugin.LLamaSharp
-
BotSharp.Plugin.SemanticKernel
消息/通道插件
-
BotSharp.OpenAPI
-
BotSharp.Plugin.ChatHub
-
BotSharp.Plugin.MetaMessenger
-
BotSharp.Plugin.Twilio
-
BotSharp.Plugin.TelegramBots
-
BotSharp.Plugin.WeChat
RAGs插件
-
BotSharp.Plugin.KnowledgeBase
-
BotSharp.Plugin.Qdrant
视觉插件
-
BotSharp.Plugin.PaddleSharp
工具插件
-
BotSharp.Plugin.RoutingSpeeder
-
BotSharp.Plugin.PizzaBot
UI 插件
-
BotSharp.Plugin.ChatbotUI
文档资料
如果你对BotSharp感兴趣,可以访问官方文档阅读更多详细信息:
https://botsharp.readthedocs.io
如果你认为该项目对你有帮助,不妨给项目点个Star。
BotSharp是SciSharp Stack的成员项目,后者是基于.Net 的开源软件生态系统,用于数学、科学和工程领域。
通过BotSharp,.Net开发者不仅能在现有的应用程序中无缝集成AI功能,同时也能为企业提供强大、可定制的智能助理。当前AI技术的高速发展,为信息管理系统增添了智能的翅膀,让我们拭目以待,BotSharp如何在此基础上继续赋能开发者,掀起新一波技术革新。
如果本文对您有帮助,欢迎您订阅我的公众号。