大语言模型
文章平均质量分 65
软件科学研究院
专注JAVA系统优化、系统结构调整、系统问题排查医治、系统升级、架构设计、SQL语句优化、小程序、APP、企业应用软件开发
展开
-
JAVA连接FastGPT实现流式请求SSE效果
FastGPT 是一个基于 LLM 大语言模型的知识库问答系统,提供开箱即用的数据处理、模型调用等能力。同时可以通过 Flow 可视化进行工作流编排,从而实现复杂的问答场景!一、先看效果真正实流式请求,SSE效果,SSE解释:SSE(Server-Sent Events)是一种用于实现服务器主动向客户端推送数据的技术,也被称为“事件流”(Event Stream)。它基于HTTP协议,利用了其长连接特性,在客户端与服务器之间建立一条持久化连接,并通过这条连接实现服务器向客户端的实时数据推送。原创 2024-07-02 23:07:23 · 1126 阅读 · 2 评论 -
SpringAI通过Ollama连接大语言模型通义千问
随着大语言模型发展越来越成熟,Apache开源组织也出了自己的SpringAI开源工程Spring AI项目旨在简化包含人工智能功能的应用程序的开发,避免不必要的复杂性。该项目从著名的 Python 项目(例如 LangChain 和 LlamaIndex)中汲取灵感,但 Spring AI 并不是这些项目的直接移植。支持所有主要模型,例如 OpenAI、Ollama、Azure OpenAI、Amazon Bedrock、Huggingface、Google VertextAI、Mistral A原创 2024-05-16 23:10:14 · 2087 阅读 · 1 评论 -
LLM大语言模型FastGPT环境搭建
简介:在 FastGPT 的 AI 对话模块中,有一个 AI 高级配置,里面包含了 AI 模型的参数配置,本文详细介绍这些配置的含义。一、FastGPT 能力1. 专属 AI 客服link通过导入文档或已有问答对进行训练,让 AI 模型能根据你的文档以交互式对话方式回答问题。2. 简单易用的可视化界面FastGPT 采用直观的可视化界面设计,为各种应用场景提供了丰富实用的功能。通过简洁易懂的操作步骤,可以轻松完成 AI 客服的创建和训练流程3. 自动数据预处理提供手动输入、直原创 2024-04-28 23:14:43 · 456 阅读 · 0 评论