用 Java 写了一个快速搭建大语言模型应用的框架

最新推荐文章于 2024-07-29 17:23:10 发布

sinat_41940410

最新推荐文章于 2024-07-29 17:23:10 发布

阅读量673

点赞数 1

文章标签： chatgpt java AI编程

本文链接：https://blog.csdn.net/sinat_41940410/article/details/130646772

版权

Langtorch是一个基于Java的框架，旨在简化大语言模型的应用开发，目前兼容OpenAIAPI。未来计划扩展支持包括agent、embedding和memory在内的功能。项目已开源在GitHub，欢迎贡献和提出问题。

摘要由CSDN通过智能技术生成

用 java 写了一个快速搭建大语言模型应用的框架，类似于 langchain. 未来会把 agent ，embedding ，memory 都一一实现。

目前只支持 openai ，不过会慢慢增加其他模型

https://github.com/Knowly-ai/langtorch

欢迎大家来提 issue

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

sinat_41940410

关注关注

1
点赞
踩
3

收藏

觉得还不错? 一键收藏
1
评论
复制链接

分享到 QQ

分享到新浪微博

扫一扫

【大模型应用开发动手做AI Agent】基于大模型的Agent技术框架

AI天才研究院

06-10

1676

随着人工智能技术的快速发展，特别是自然语言处理和大模型技术的突破，基于大模型的Agent（代理）技术正在成为人工智能应用的新热点。Agent技术旨在创建能够自主执行任务、与人交互的智能软件系统，在客户服务、个人助理、智能教育等领域具有广阔的应用前景。本文将深入探讨基于大模型的Agent技术框架，阐述其核心概念、原理和实践，为读者提供全面深入的认识。基于大模型的 Agent 技术正处于快速发展阶段。模型的进一步增大和优化，在更广泛的领域达到人类水平。

35岁java转大模型笔记，大模型智能体（LLM Agent）学习笔记

最新发布

2401_86435672的博客

09-26

1418

但普通人和大模型直接交互是不现实的，类GPT聊天机器人是大模型面向普通用户提供的一种接口，能够帮忙人们完成很多任务，但大模型能做的远不止于此，而聊天是一种泛化的场景，很多时候解决问题的效率不是很高。当然，大模型的“大”也意味着它有“大胃口”，训练这样的模型需要极强的计算能力和大量的时间，同时伴随高昂的成本。零样本提示，就是不包含任何样本的提示。如果说智能体是大模型的上层应用的话，那么提示词就是开发大模型应用的编程语言，而提示词工程就是关于该语言编程技巧的学科，下图展示了大模型和移动互联网的类比。

1 条评论您还未登录，请先登录后发表或查看评论

Java+SpringBoot调用通义千问的大语言模型的API及前端Vue实现联调

蓝雨天的博客

05-15

2891

Java+SpringBoot调用通义千问的大语言模型的API及前端Vue实现联调

借鉴LangChain思想使用Java实现大模型Function_Call工具开发及调用功能_langchain-chatchat java调用

2401_84003733的博客

04-09

521

【代码】借鉴LangChain思想使用Java实现大模型Function_Call工具开发及调用功能_langchain-chatchat java调用。

使用Java也能开发大模型应用？让我们一探究竟

luxinfeng的博客

06-02

2103

有时候，在开发应用时，需要使用大模型或其他AIGC技术，常常需要调用Python服务提供的接口。但是，有些时候，可能功能比较简单轻量，再新建一个Python服务提供接口调用感觉有些过于复杂。因此，我想尝试在Java中实现一些简单的AIGC技术场景。

使用Java和ChatGPT Api来创建自己的大模型聊天机器人

qq_42893430的博客

08-20

3083

什么是大模型？大型语言模型（LLM）是一种深度学习模型，它使用大量数据进行预训练，并能够通过提示工程解决各种下游任务。LLM 的出发点是建立一个适用于自然语言处理的基础模型，通过预训练和提示工程的方式实现模型在新的数据分布和任务上的强大泛化能力。LLM 旨在解决自然语言处理中的一些关键问题，例如文本分类、命名实体识别、情感分析等。LLM 由多个主要组件组成，包括图像编码器、提示编码器和掩码解码器。图像编码器主要用于对输入图像进行编码，以便将其转换为可供模型处理的格式。

Java开发者也能看懂的大模型应用开发实践！！！

2401_85379281的博客

06-13

1809

做AI大模型应用的开发其实Java也能写，那么本文就一个Java开发者的立场，构建实现一个最基础的大模型应用系统。让大模型理解文本(知识库)内容，基于知识库范围内的内容进行回答对话而基于知识库的回答会帮助我们解决哪些问题呢？✅ **节省大模型训练成本：**我们知道ChatGPT的知识内容停留在2021年，最新的知识它并不知道，而检索增强生成则可以解决大模型无法快速学习的问题，训练大模型代价是非常昂贵的，不仅仅只是金钱，还包括时间，随着模型的参数大小成本成正相关。

从零开发短视频电商 Java开发者的AI大模型（LLM）应用开发和设计-LangChain4j

laker的博客

12-13

4728

GithubJava版langchain, 利用LLMs的力量增强你的java应用程序。该项目的目标是简化 AI/LLM 功能到 Java 应用程序的集成。一个简单且连贯的抽象层，旨在确保您的代码不依赖于具体实现，例如 LLM providers, embedding store providers,等。这允许轻松替换组件。上述抽象的多种实现，为您提供了多种 LLMs 和嵌入存储可供选择。获取您自己的数据own data（文档、代码库等）的能力，允许LLM 根据您的数据采取行动和做出响应。

基于java打造的深度学习框架，帮助你快速搭建神经网络，实现模型推理与训练

08-06

基于java打造的深度学习框架，帮助你快速搭建神经网络，实现模型推理与训练基于java打造的深度学习框架，帮助你快速搭建神经网络，实现模型推理与训练基于java打造的深度学习框架，帮助你快速搭建神经网络，实现模型...

ssm框架快速搭建

10-26

SSM框架，即Spring、SpringMVC和MyBatis的集成框架，是Java Web开发中常用的三大组件。这个教程将帮助新手快速理解并搭建SSM框架，为后续的项目开发打下基础。 **Spring框架**：Spring是核心的Java企业级应用开发...

在jeefuseMDA快速开发框架基础上搭建的面向企业应用系统开发的java web应用程序骨架.zip

02-09

基于该框架，开发者可以快速搭建出符合业务需求的应用程序骨架，大大提高了开发效率，降低了项目成本。这个zip文件包含了Jeefuse-Web-Master，它是Jeefuse框架的核心组成部分，用于实现Web应用程序的基础结构。 ...

Java《基于java打造的深度学习框架，快速搭建神经网络，实现模型推理与训练》+源代码+设计资料

07-20

基于java打造的深度学习框架，帮助你快速搭建神经网络，实现训练或测试模型，支持多线程运算，框架目前支持BP神经网络、卷积神经网络、循环神经网络、vgg16、resnet、yolo、lstm、transformer、gpt2等模型的构建，...

Java调用Python大语言模型（LLM）遇到乱码

qq_46119503的博客

02-29

648

使用Java调用大语言模型时出现了乱码问题

借助大语言模型快速升级你的 Java 应用程序

亚马逊云科技专栏

07-29

703

Amazon Q Develper 是 Amazon Q 的开发者版本，从编码、测试和升级应用程序，到诊断错误、执行安全扫描和修复，以及优化 Amazon 云上资源，可协助开发人员和 IT 专业人员完成所有任务。生成项目后，Amazon Q 在安全的构建环境中生成升级代码，并创建针对要升级的项目或模块定制的升级计划。Amazon Q Developer 在升级的过程中不仅智能地升级语言版本，还能识别并替换那些被淘汰的代码，更棒的是，它还能确保新的应用程序是安全的。，该状态表明整个项目是否已升级。

JAVA也有自己的大模型生态

帅东's Blog

04-13

921

Spring AI 是 AI 工程的应用框架。其目标是将 Spring 生态系统设计原则（如可移植性和模块化设计）应用于 AI，并推广使用 POJO 作为 AI 领域应用程序的构建块。Spring AI 吸取了知名 Python 项目的精髓，比如：LangChain 和 LlamaIndex。Spring AI 是基于这样一个理念创立的：未来的 AI 大模型应用将不仅限于 Python 开发者，而且会普及到多种编程语言中。

BsinCopilot：Java版端到端大语言模型开发框架

leijiwen的博客

03-03

1621

BsinCopilot是基于BsinPaaS开源框架构建的大语言模型应用SaaS服务，借鉴langchain的框架思想，引入 langchian4j组件，微前端微服务的架构设计，可快速助您构建和体验端到端的AI应用。

JAVA对接语言大模型，百度云（文心一言）、阿里（通义千问）、科大讯飞（星火认知大模型）

weixin_49997433的博客

12-22

2168

java对接语言大模型，百度云（文心一言）、阿里（通义千问）、科大讯飞（星火认知大模型）

JAVA开发AI应用（一）：调用大模型实现基本聊天

catastrophe_zy的博客

06-03

747

异步模式下，chat是在一个单独的调度线程中执行的，所以如果想在当前线程中等待chat结束，可以调用await()阻塞当前线程。JBoltAI 还支持 OpenAI、文心、通义千问、Ollama、DeepSeek、Moonshot等多个大模型的接入。以上代码就是以异步的方式，向大模型发起一个提问，并要求大模型以流式进行响应。在流式响应模式下，大模型每成功响应一次，onSuccess回调就会执行一次。如果大模型的响应报错了，那么整个过程就会结束，触发onFail回调。以上代码就是接入了一个百川大模型的资源。