LangChain4j炸裂！Java开发者打造AI应用从未如此简单

Langchain

于 2024-10-01 07:45:00 发布

阅读量599

点赞数 20

文章标签：人工智能开发语言自然语言处理 langchain 大模型 LLM java

本文链接：https://blog.csdn.net/Langchain/article/details/142618117

版权

LangChain4j 的目标是简化将大语言模型（LLM）集成到 Java 应用程序中的过程。

1 实现方式

1.1 标准化 API

LLM 提供商（如 OpenAI 或 Google Vertex AI）和向量嵌入存储（如 Pinecone 或 Milvus）使用专有 API。LangChain4j 提供了标准化 API，避免了每次都需要学习和实现特定 API 的麻烦。要试验不同的 LLM 或嵌入存储，可以轻松切换而无需重写代码。LangChain4j 目前支持 15+ 个主流 LLM 提供商和 15+ 个嵌入存储。

1.2 综合工具箱

过去的一年里，社区开发了许多由 LLM 驱动的应用程序，识别了常见的抽象、模式和技术。LangChain4j 已将这些精炼成一个现成的包。我们的工具箱涵盖从低级的提示词模板、聊天记忆模块管理、输出解析到高级模式如 AI 服务和 RAG 的工具。对于每个抽象层次，我们提供了一个接口，并基于常见技术提供了多个现成的实现。不论您是在构建聊天机器人，还是在开发一个从数据导入到检索的完整 RAG 管道，LangChain4j 提供了广泛的选择。

1.3 大量示例

这些示例展示了如何开始创建各种由 LLM 驱动的应用程序，提供了灵感并让您能够快速开始构建。

LangChain4j 于 2023 年初在 ChatGPT 热潮中开始开发。但发现Java 领域缺乏与 Python 和 JavaScript 类似的 LLM 库和框架，便决定解决这一问题！虽然名字包含“LangChain”，但该项目融合了 LangChain、Haystack、LlamaIndex 及更广泛社区的理念，并加入自己的创新。

我们积极关注社区的最新进展，致力于快速整合新技术和集成，确保您始终保持最新状态。该库仍在积极开发中，虽然某些功能尚在开发，但核心功能已经就绪，您可以立即开始构建基于 LLM 的应用程序！

为便于集成，LangChain4j 还包括与 Quarkus 和 Spring Boot 集成。

2 LangChain4j 的功能

与 15+ 个 LLM 提供商的集成
与 15+ 个向量嵌入存储的集成
与 10+ 个嵌入模型的集成
与 4 个云端和本地图像生成模型的集成
与 2 个评分（重新排序）模型的集成
与 OpenAI 的一个审核模型的集成
支持文本和图像输入（多模态）
AI 服务（高级 LLM API）
提示词模板
持久化和内存中的聊天记忆模块算法实现：消息窗口和 token 窗口
LLM 响应流式传输
常见 Java 数据类型和自定义 POJO 的输出解析器
工具（功能调用）
动态工具（执行动态生成的 LLM 代码）
RAG（检索增强生成）：
- 数据导入：
  - 从多个来源（文件系统、URL、GitHub、Azure Blob Storage、Amazon S3 等）导入各种类型的文档（TXT、PDF、DOC、PPT、XLS 等）
  - 使用多种分割算法将文档切分成更小的片段
  - 对文档和片段进行后处理
  - 使用嵌入模型对片段进行嵌入
  - 将嵌入存储在向量嵌入存储中
- 检索（简单和高级）：
  - 查询转换（扩展、压缩）
  - 查询路由
  - 从向量存储和/或任何自定义来源进行检索
  - 重新排序
  - 倒数排名融合
  - RAG 流程中每个步骤的自定义
文本分类
Token 切分和 Token 计数估算工具

3 两个抽象层次

LangChain4j 在两个抽象层次上运行：

低级。这层，您拥有最大自由，可以访问所有底层组件，如 ChatLanguageModel、UserMessage、AiMessage、EmbeddingStore、Embedding 等。这些是 LLM 应用程序的“原语”。您可以完全控制如何组合它们，但您需要编写更多的代码。
高级。这层，您通过高级 API（如 AiServices）与 LLM 进行交互，这些 API 屏蔽了所有复杂性和样板代码。您仍然可以灵活地调整和微调行为，但这是以声明的方式完成的。

在这里插入图片描述

4 LangChain4j 库结构

LangChain4j 具有模块化设计，包括：

langchain4j-core 模块，定义了核心抽象（如 ChatLanguageModel 和 EmbeddingStore）及其 API。
主 langchain4j 模块，包含了诸如 ChatMemory、OutputParser 等有用工具，以及如 AiServices 这样的高级功能。
各种 langchain4j-{integration} 模块，每个模块提供与各种 LLM 提供商和嵌入存储的集成。您可以单独使用 langchain4j-{integration} 模块。对于额外的功能，只需导入主 langchain4j 依赖项。

5 LangChain4j 代码库

6 使用案例

我为什么需要这些功能？一些使用场景：

想要实现一个具有自定义行为并能访问您数据的 AI 聊天机器人：

客户支持聊天机器人可以：
- 礼貌地回答客户问题
- 接收/修改/取消订单
教育助手可以：
- 教授各种学科
- 解释不清楚的部分
- 评估用户的理解/知识

希望处理大量非结构化数据（文件、网页等），并从中提取结构化信息。如：

从客户评论和支持聊天记录中提取见解
从竞争对手的网站中提取有趣的信息
从求职者的简历中提取见解

希望生成信息，如：

针对每位客户定制的电子邮件
为您的应用程序/网站生成内容：
- 博客文章
- 故事

希望转换信息，如：

摘要
校对和重写
翻译

如何系统的去学习大模型LLM ？

大模型时代，火爆出圈的LLM大模型让程序员们开始重新评估自己的本领。 “AI会取代那些行业？”“谁的饭碗又将不保了？”等问题热议不断。

事实上，抢你饭碗的不是AI，而是会利用AI的人。

继科大讯飞、阿里、华为等巨头公司发布AI产品后，很多中小企业也陆续进场！超高年薪，挖掘AI大模型人才！ 如今大厂老板们，也更倾向于会AI的人，普通程序员，还有应对的机会吗？

与其焦虑……

不如成为「掌握AI工具的技术人」，毕竟AI时代，谁先尝试，谁就能占得先机！

但是LLM相关的内容很多，现在网上的老课程老教材关于LLM又太少。所以现在小白入门就只能靠自学，学习成本和门槛很高。

针对所有自学遇到困难的同学们，我帮大家系统梳理大模型学习脉络，将这份 LLM大模型资料 分享出来：包括LLM大模型书籍、640套大模型行业报告、LLM大模型学习视频、LLM大模型学习路线、开源大模型学习教程等, 😝有需要的小伙伴，可以 扫描下方二维码领取🆓↓↓↓

👉CSDN大礼包🎁：全网最全《LLM大模型入门+进阶学习资源包》免费分享（安全链接，放心点击）👈

一、LLM大模型经典书籍

AI大模型已经成为了当今科技领域的一大热点，那以下这些大模型书籍就是非常不错的学习资源。

在这里插入图片描述

二、640套LLM大模型报告合集

这套包含640份报告的合集，涵盖了大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。(几乎涵盖所有行业)

在这里插入图片描述

三、LLM大模型系列视频教程

在这里插入图片描述

四、LLM大模型开源教程（LLaLA/Meta/chatglm/chatgpt）

在这里插入图片描述

LLM大模型学习路线 ↓

阶段1：AI大模型时代的基础理解

目标：了解AI大模型的基本概念、发展历程和核心原理。
内容：
- L1.1 人工智能简述与大模型起源
- L1.2 大模型与通用人工智能
- L1.3 GPT模型的发展历程
- L1.4 模型工程
- L1.4.1 知识大模型
- L1.4.2 生产大模型
- L1.4.3 模型工程方法论
- L1.4.4 模型工程实践
- L1.5 GPT应用案例

阶段2：AI大模型API应用开发工程

目标：掌握AI大模型API的使用和开发，以及相关的编程技能。
内容：
- L2.1 API接口
- L2.1.1 OpenAI API接口
- L2.1.2 Python接口接入
- L2.1.3 BOT工具类框架
- L2.1.4 代码示例
- L2.2 Prompt框架
- L2.3 流水线工程
- L2.4 总结与展望