Y525698136的博客

本文和大家分享一下如何在个人电脑上部署Llama3，拥有你自己的GPT-3.5+!

本文将详细介绍如何在虚拟化平台 Proxmox Virtual Environment（PVE）配置显卡直通，将宿主机上的物理显卡直接分配给 AI 虚拟机使用。

本篇对嵌入模型的概念、Spring AI 框架对支持嵌入模型的设计，并对其源码进行分析，最后对API接口进行使用。

《开源大模型食用指南》 是一个围绕开源大模型、针对国内初学者、基于 AutoDL 平台的中国宝宝专属大模型教程，针对各类开源大模型提供包括环境配置、本地部署、高效微调等技能在内的全流程指导，简化开源大模型的部署、使用和应用流程，让更多的普通学生、研究者更好地使用开源大模型，帮助开源、自由的大模型更快融入到普通学习者的生活中。

本前言介绍的课程笔记源自于“大模型理论基础（so-large-lm）”课程， 一个致力于探索和理解大型模型发展的前沿课程。

本文将基于Windows系统和CPU环境，使用Qwen2.5系列模型，详细实践从大型语言模型的下载、部署到微调的全过程。

通过Jupyter Notebook+OpenAI+ollama简单的调用本地模型

今天给大家介绍一个git开源的宝藏项目 — 基于大模型+知识图谱的知识库问答，这里还搭配了一个演示dome给大家，如需要此项目练手的，我已经打包好了放在文末~

大语言模型（LLM）能够执行各种自然语言任务，例如文本生成、语言翻译、文本摘要、问答等。然而，使用 LLM 的一个显著局限是 LLM 幻觉。

RAG(Retrieval-Augmented Generation, 检索增强生成)是一种将信息检索与生成模型结合的方法，也是企业落地大模型应用最常见的方式。

【AI大模型】使用Ollama在本地部署大模型

大家好，我是一名喜欢在家折腾本地部署的开发者，这次我来分享如何在本地运行 Ollama，并将它与 FastGPT 和 Dify 两个知识库对接。看起来复杂，但其实步骤并不难。我会尽量把内容讲得清楚易懂，加上一些幽默，让整个过程更有趣。

MaxKB 是一款基于 LLM 大语言模型的知识库问答系统。MaxKB = Max Knowledge Base，旨在成为企业的最强大脑。

本文介绍如何使用 Ollama 在本地部署 Llama 3.1:8B 模型，并通过 OpenWeb UI 和 Spring AI 来增强模型交互体验和简化 API 的调用过程。

llama是一个专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计的工具。

【大模型微调】llamafactory+ollama+docker 微调部署全流程速通（RTX4090公版）

大模型在最近两年特别火，相信大家或多或少都听说过，那么大模型落地的应用场景，个人觉得RAG是现在能落地的应用场景之一

LlamaIndex 是一个数据框架，用于帮助基于 LLM 的应用程序摄取、构建结构和访问私有或特定领域的数据。

我们知道 LLM的知识库是通过现有的网络公开的数据作为数据源来训练的，现在公开的很多模型他们基于的训练数据会比我们现在网络上公开的数据早很多，那自然就会产生一种问题，网络上最新的数据和知识 LLM是不知道。