开源项目 Bosquet 使用教程

开源项目 Bosquet 使用教程

bosquet Tooling to build LLM applications: prompt templating and composition, agents, LLM memory, and other instruments for builders of AI applications. 项目地址: https://gitcode.com/gh_mirrors/bo/bosquet

项目介绍

Bosquet 是一个专为构建基于大型语言模型（LLMs）的应用程序设计的工具集。它旨在简化人工智能应用的开发过程，特别是在处理复杂的提示模板、管理有限的LLM上下文窗口、实现记忆功能以及创建用于与外部世界交互的代理方面。该项目提供了丰富的工作流程支持，包括但不限于通过Selmer模板库进行的提示模版化、利用Pathom图处理引擎的提示链式和组合、代理和服务的抽象定义，以适应API交互，以及对LLM内存的管理等其他重要工具。Bosquet支持开发者高效地与LLMs合作，推动AI应用的快速发展。

项目快速启动

要快速开始使用Bosquet，请遵循以下步骤：

环境准备

确保你的系统中已安装了Clojure及其REPL环境。

克隆项目

git clone https://github.com/zmedelis/bosquet.git
cd bosquet

设置默认配置

• 复制并调整配置文件：

  cp config.edn.sample config.edn
  

  根据需要编辑 config.edn 文件，添加你的服务API密钥和其他配置。

• 使用CLI初始化设置，例如设置OpenAI作为默认模型：

  clojure -M -m bosquet/cli llms set --service openai --temperature 0 --model gpt-4
  

• 设置你的服务API密钥：

  clojure -M -m bosquet/cli keys set openai <your-api-key>
  

运行示例

执行基本的命令来测试生成文本：

clojure -M -m bosquet/cli "2+[[x]]="

或者使用prompt文件进行更复杂的功能测试：

clojure -M -m bosquet/cli -p demo/play-writer-prompt.edn -d demo/play-writer-data.edn

应用案例和最佳实践

示例：简单对话机器人

在实际应用中，可以使用Bosquet构建一个简单的对话机器人，如下所示：

(require '[bosquet.llm.wkk :as wkk])

(defn create-dialogue []
  (generate
   [[:system "你是友好的助手"]
    [:user ["请问天气如何？"]]
    [:assistant (wkk/openai wkk/model-params [:temperature 0.5 :max-tokens 60] wkk/var-name :weather)]])

此代码片段展示了一个基本的对话结构，通过LLM获取天气信息。

最佳实践

• 利用Selmer充分利用模板灵活性。
• 在处理大量数据或频繁查询时考虑缓存响应以提高性能。
• 设计自定义代理以适配特定的API交互需求。

典型生态项目

由于Bosquet是围绕LLMs构建的，其典型的生态系统包括但不限于自然语言处理(NLP)应用、自动客户服务、创意写作辅助、数据分析解释等场景。开发者可以在各种AI应用开发中融入Bosquet，如集成到现有的CRM系统、教育软件、内容创作平台等，利用其强大的工具链提升人工智能应用的开发效率和质量。

---

以上就是Bosquet开源项目的简要介绍、快速启动指南、应用案例及最佳实践概览。希望这能帮助您快速上手并发挥项目的最大潜力。

bosquet Tooling to build LLM applications: prompt templating and composition, agents, LLM memory, and other instruments for builders of AI applications. 项目地址: https://gitcode.com/gh_mirrors/bo/bosquet