<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[羊城迷鹿的博客]]></title><description><![CDATA[饱食终日，无所用心]]></description><link>https://blog.csdn.net/jining11</link><language>zh-cn</language><generator>https://blog.csdn.net/</generator><copyright><![CDATA[Copyright &copy; jining11]]></copyright><item><title><![CDATA[codex远程安装踩坑与排查实录]]></title><link>https://blog.csdn.net/jining11/article/details/168444972</link><guid>https://blog.csdn.net/jining11/article/details/168444972</guid><author>jining11</author><pubDate>Mon, 19 Oct 2026 15:14:20 +0800</pubDate><description><![CDATA[Ubuntu、Debian 默认生成的~/.bashrccase $- in*i*);;*) return;;esac$-是当前 shell 的选项标志串，交互 shell 的标志里会带字母i；case判断标志里有没有i——有，就什么都不做，继续往下读；没有，就执行return直接停止读取这个文件的剩余部分。这几行就是我所说的"交互守卫"：它像一道门，对交互 shell 放行，对非交互 shell 关上，门后面的内容非交互 shell 读不到。]]></description><category></category></item><item><title><![CDATA[SFT热身，RL冲顶：2026终端智能体论文全解读]]></title><link>https://blog.csdn.net/jining11/article/details/168327822</link><guid>https://blog.csdn.net/jining11/article/details/168327822</guid><author>jining11</author><pubDate>Mon, 19 Oct 2026 14:18:55 +0800</pubDate><description><![CDATA[在 RST（8 月 5 日）和 Terminal-Bench 4.0（8 月 28 日）之间，短短 23 天内连续出现了几篇立场各异、但都在回答"如何让合成任务质量更可靠"的论文。CalibForge 和 Envs-FORGE 关心难度是否"恰到好处地匹配求解器能力"（前者用启发式的多求解器对比，后者用形式化的 MILP 优化）；FACET 关心任务四要素是否"内部一致、不自相矛盾"；River 关心训练出来的能力究竟"属于技能还是策略"，以及 verifier 是否干净。]]></description><category></category></item><item><title><![CDATA[让 ClaudeCode 用上 Command Code的GOAT 订阅计划]]></title><link>https://blog.csdn.net/jining11/article/details/164455085</link><guid>https://blog.csdn.net/jining11/article/details/164455085</guid><author>jining11</author><pubDate>Mon, 07 Sep 2026 11:16:33 +0800</pubDate><description><![CDATA[Claude Code（下文简称 CC）本身只认 Anthropic 官方协议，而这次要接入的是 Command Code 平台下的 GOAT 订阅计划——一个按需调用 DeepSeek、Qwen、GLM、LongCat 等多种模型的付费套餐，它的 API 只提供 OpenAI 格式的接口。CC 的协议和 GOAT 计划的接口天然对不上，直接把 CC 指过去必然行不通——但报错信息又常常把人带偏，让人误以为是"模型不存在"或者"GOAT 套餐没权限"。这篇文章完整记录了把 CC 接入 Command Cod]]></description><category></category></item><item><title><![CDATA[Claude Code搭建号池破解429限流实战]]></title><link>https://blog.csdn.net/jining11/article/details/164454846</link><guid>https://blog.csdn.net/jining11/article/details/164454846</guid><author>jining11</author><pubDate>Mon, 07 Sep 2026 11:11:14 +0800</pubDate><description><![CDATA[用 Claude Code 接某 Anthropic 兼容 Token Plan 服务时,单个 API Key 跑一会儿就会被 429 打断,Claude Code 自带的重试又只会对着同一个 key 反复撞墙,体验是"转圈很久然后报错"。本文记录了一次真实的排查与解决过程:从最初"多注册几个手机号、多开几个 key"的朴素号池思路出发,到最终演化成一个具备多 key/多模型轮换、限速排队、分级冷却、模型级熔断、流式兼容性自动探测等能力的本地透传代理 。文章按照问题背景、排查过程(v1 到 v4 的四轮迭代]]></description><category></category></item><item><title><![CDATA[从权重交织读懂SwiGLU的前世今生]]></title><link>https://blog.csdn.net/jining11/article/details/163613318</link><guid>https://blog.csdn.net/jining11/article/details/163613318</guid><author>jining11</author><pubDate>Mon, 10 Aug 2026 14:25:05 +0800</pubDate><description><![CDATA[GLU（门控线性单元）最早由 Dauphin 等人（Facebook AI Research）于 2016 年底提出（论文挂出于 arXiv，后正式发表于 ICML 2017），论文题为《Language Modeling with Gated Convolutional Networks》。FFNxActivationxW1b1W2b2FFNxActivationxW1​b1​W2​b2​而GLU。]]></description><category></category></item><item><title><![CDATA[一文讲透投机解码里的拒绝采样与残差采样]]></title><link>https://blog.csdn.net/jining11/article/details/163213002</link><guid>https://blog.csdn.net/jining11/article/details/163213002</guid><author>jining11</author><pubDate>Mon, 10 Aug 2026 14:23:51 +0800</pubDate><description><![CDATA[draft 采样: x ~ q(·) (已经发生,不可逆)若 u < accept_prob(x): 输出 x否则: 从残差分布 r(y) = max(0, p(y)-q(y)) / Z 采样 y,输出 y其中 Z = Σ_y max(0, p(y)-q(y))]]></description><category></category></item><item><title><![CDATA[基于LlamaFactory的LLM量化技术详解]]></title><link>https://blog.csdn.net/jining11/article/details/158008165</link><guid>https://blog.csdn.net/jining11/article/details/158008165</guid><author>jining11</author><pubDate>Thu, 12 Feb 2026 15:28:40 +0800</pubDate><description><![CDATA[随着大语言模型参数规模突破千亿级别，模型部署面临着严峻的内存和计算挑战。LlamaFactory作为一个强大的LLM训练与部署框架，集成了完整的量化技术栈，让模型压缩变得简单高效。本文将以LlamaFactory为核心，系统性地介绍LLM量化的完整技术方案：从量化基础理论出发，深入解析PTQ（训练后量化）和QAT（量化感知训练）两大范式，详细讲解GPTQ、AWQ等主流权重量化算法的原理与实现，并通过LlamaFactory实战案例展示如何实现4-8倍内存压缩和2-4倍推理加速，为大模型的高效部署提供完整的解]]></description><category></category></item><item><title><![CDATA[从PPO到ORPO：LLaMA Factory强化学习算法技术详解]]></title><link>https://blog.csdn.net/jining11/article/details/158006840</link><guid>https://blog.csdn.net/jining11/article/details/158006840</guid><author>jining11</author><pubDate>Thu, 12 Feb 2026 14:07:15 +0800</pubDate><description><![CDATA[本文系统梳理五大算法的理论基础、关键公式和工程实现，通过 Online 与 Offline 的对比、显存开销的量化分析、以及基于显存和数据类型的决策树，帮助你快速找到最适合自己项目的方案。文章包含完整的 LLaMA Factory 配置示例、超参数调优建议和常见问题解决方法，既适合初学者建立系统认知，也适合工程师作为实战参考手册。]]></description><category></category></item><item><title><![CDATA[PolarDB for PostgreSQL 图数据库实战：从 Docker 部署到知识图谱可视化]]></title><link>https://blog.csdn.net/jining11/article/details/156562008</link><guid>https://blog.csdn.net/jining11/article/details/156562008</guid><author>jining11</author><pubDate>Mon, 09 Feb 2026 11:20:36 +0800</pubDate><description><![CDATA[本文将详细记录使用 PolarDB for PostgreSQL 构建图数据库的完整实践过程，从 Docker 环境搭建、关系型数据库实验，到基于 Apache AGE 插件的图谱构建，最终实现图数据的可视化展示。

整个实践过程并非一帆风顺，特别是在图谱可视化环节遇到了诸多技术挑战。从 Docker 镜像拉取失败，到 Node.js 版本兼容性问题，再到前端依赖包的路径解析错误，每一个障碍都需要仔细分析和逐一攻克。通过切换 Node.js 版本、手动安装 Babel 运行时环境、修改前端代码的导入语句等一]]></description><category></category></item><item><title><![CDATA[告别手动调参：LLaMA-Factory超参数自动搜索插件设计与实现]]></title><link>https://blog.csdn.net/jining11/article/details/157841103</link><guid>https://blog.csdn.net/jining11/article/details/157841103</guid><author>jining11</author><pubDate>Mon, 09 Feb 2026 11:17:32 +0800</pubDate><description><![CDATA[开发了一个即插即用的超参数自动搜索插件，它能够自动遍历参数空间、执行训练评估、收集性能指标，并生成详细的对比报告，让模型调优变得轻松高效。本插件采用配置层-执行层-输出层的三层架构设计，通过三个YAML配置文件（基准参数、搜索空间、实验配置）驱动整个搜索流程。在技术实现上，系统解决了几个关键问题：通过进程树递归追踪解决了GPU显存监控中主进程与训练子进程不一致的问题；从训练日志中提取运行时间和关键指标；通过灵活的指标配置机制，支持任意评估指标的自动收集；通过增量实验机制和配置快照，支持分批执行和历史追溯]]></description><category></category></item><item><title><![CDATA[基于SSH的远程模型微调系统设计与实现]]></title><link>https://blog.csdn.net/jining11/article/details/157556384</link><guid>https://blog.csdn.net/jining11/article/details/157556384</guid><author>jining11</author><pubDate>Fri, 30 Jan 2026 23:19:19 +0800</pubDate><description><![CDATA[为了规范训练参数的输入，我们使用Pydantic定义了配置模型。这个模型包含了SSH连接配置、远程环境配置和训练超参数三个主要部分。"""微调配置模型"""# SSH连接配置# 远程环境配置# 训练配置这个配置模型不仅提供了参数验证功能，还为每个参数设置了合理的默认值。在实际使用中，调用者只需要提供必须修改的参数，其他参数会自动使用默认配置，大大简化了API调用的复杂度。通过SSH协议实现远程模型训练管理系统，我们解决了本地训练向生产环境迁移过程中的关键技术问题。]]></description><category></category></item><item><title><![CDATA[Qwen2.5-VL多模态微调超参数深度解析(下)：LoRA/Oft的精细化调优与性能边界探索]]></title><link>https://blog.csdn.net/jining11/article/details/157550155</link><guid>https://blog.csdn.net/jining11/article/details/157550155</guid><author>jining11</author><pubDate>Fri, 30 Jan 2026 16:03:29 +0800</pubDate><description><![CDATA[基于以上30+组实验的系统性分析，我们总结出以下LoRA调优最佳实践指南。]]></description><category></category></item><item><title><![CDATA[Qwen2.5-VL多模态微调超参数深度解析(上)：训练流程与优化策略的量化机制分析]]></title><link>https://blog.csdn.net/jining11/article/details/157519039</link><guid>https://blog.csdn.net/jining11/article/details/157519039</guid><author>jining11</author><pubDate>Thu, 29 Jan 2026 23:11:38 +0800</pubDate><description><![CDATA[上篇文章通过系统化的对比实验，回答了多模态微调中的三个基础问题：“选什么方法”(LoRA/Full/Freeze/OFT对比)、“用什么配置”(60+组超参数组合)、“达到什么效果”(ROUGE-L/BLEU-4指标)。这些结果为后续工作奠定了实验基线，但也留下了更深层的疑问：为何相同方法在不同数据集上表现迥异？为何某些超参数的微小调整会引发性能剧变？如何在未见过的任务上快速找到最优配置？本文是对前文实验数据的二次挖掘与机理解析。我们将关注点从"做了什么实验"转移到"实验揭示了什么规律"，实验视角从"结果对]]></description><category></category></item><item><title><![CDATA[从LoRA到OFT：Qwen2.5-VL在昇腾910B与4090上的多模态微调实践与踩坑记录]]></title><link>https://blog.csdn.net/jining11/article/details/155165575</link><guid>https://blog.csdn.net/jining11/article/details/155165575</guid><author>jining11</author><pubDate>Thu, 29 Jan 2026 23:04:57 +0800</pubDate><description><![CDATA[原理： 在预训练权重旁注入低秩分解矩阵，仅训练轻量级适配器优势： 参数效率高(典型适配器仅58MB)，显存占用低，训练快速适用场景： 资源受限环境下的快速迭代2. Full Fine-tuning (全量微调)原理： 更新模型全部参数优势： 理论性能上限最高，适合大规模数据场景劣势： 需要DeepSpeed ZeRO-3等分布式策略，显存需求大(22GB+)（约7GB模型文件）3. Freeze Fine-tuning (冻结微调)]]></description><category></category></item><item><title><![CDATA[华为昇腾NPU驱动问题排查与vLLM部署踩坑记录]]></title><link>https://blog.csdn.net/jining11/article/details/149197217</link><guid>https://blog.csdn.net/jining11/article/details/149197217</guid><author>jining11</author><pubDate>Mon, 20 Oct 2025 11:25:10 +0800</pubDate><description><![CDATA[本文记录了华为NPU服务器驱动失效问题的完整排查与解决过程。服务器重启后npu-smi info命令失效，经诊断发现是内核自动升级导致当前运行的5.15.0-153版本缺少Ascend驱动模块。通过对比/lib/modules目录下各内核版本的驱动文件，确认5.15.0-144-generic版本包含完整的24个驱动模块。随后修改GRUB配置回退至该内核版本，并通过锁定内核包和禁用自动升级机制防止问题再次发生。]]></description><category></category></item><item><title><![CDATA[vLLM显存逆向计算：如何得到最优gpu-memory-utilization参数]]></title><link>https://blog.csdn.net/jining11/article/details/150983309</link><guid>https://blog.csdn.net/jining11/article/details/150983309</guid><author>jining11</author><pubDate>Thu, 04 Sep 2025 22:33:23 +0800</pubDate><description><![CDATA[本文提出了一种**逆向工程**的思路：基于vLLM显存占用的底层机制，通过精确计算模型权重、KV缓存、激活内存等各组件的显存需求，**倒推出最优的gpu-memory-utilization参数**。这种方法让我们能够在部署前就准确预估资源需求，实现一次配置、稳定运行。本文我们将从vLLM显存计算的核心原理出发，构建完整的倒推计算框架和源码，并通过大量实验验证其准确性（会有误差，但基本可以直接使用）。]]></description><category></category></item><item><title><![CDATA[从KV Cache竞争到多卡优化：vLLM加载AWQ模型的显存优化全攻略]]></title><link>https://blog.csdn.net/jining11/article/details/149116252</link><guid>https://blog.csdn.net/jining11/article/details/149116252</guid><author>jining11</author><pubDate>Thu, 04 Sep 2025 22:29:48 +0800</pubDate><description><![CDATA[本文基于Qwen3-14B-AWQ和Qwen3-32B-AWQ模型的详细实验，通过50+组精确控制的对比测试，系统性地分析了vLLM中各个关键参数对显存使用的真实影响规律。我们不仅展示实验结果，更重要的是深入揭示了vLLM显存分配的底层机制——包括激活值显存与KV Cache之间的竞争博弈、多卡环境下的非线性分配规律，以及参数间复杂的相互作用关系。通过对这些机制的深度解析，我们构建了完整的显存优化方法论，成功实现了在RTX 4090服务器上单卡和多卡环境下的稳定部署，并提供了基于机制理解的科学调参策略。]]></description><category></category></item><item><title><![CDATA[Dify知识库文档批量下载神器：一键导出所有文件到本地]]></title><link>https://blog.csdn.net/jining11/article/details/149063323</link><guid>https://blog.csdn.net/jining11/article/details/149063323</guid><author>jining11</author><pubDate>Mon, 07 Jul 2025 09:18:52 +0800</pubDate><description><![CDATA[在使用Dify进行知识库管理的过程中，我们经常遇到一个实际问题：如何将已上传到知识库中的文档批量下载到本地？目前Dify的管理界面虽然功能强大，但暂时没有提供直接的UI界面来批量导出或下载知识库内的文档。这意味着如果我们需要将知识库中的文件备份到本地或进行离线处理，只能通过API接口来实现。本文将详细介绍如何利用Dify的REST API构建一个完整的知识库文档下载解决方案，这也是目前实现知识库文件批量下载到本地的唯一可行路径。🎉进入大模型应用与实战专栏 | 🚀查看更多专栏内容首先，我们需要在Dify的]]></description><category></category></item><item><title><![CDATA[将LLamaFactory微调功能包装为API：基于FastAPI的服务化改造]]></title><link>https://blog.csdn.net/jining11/article/details/148945348</link><guid>https://blog.csdn.net/jining11/article/details/148945348</guid><author>jining11</author><pubDate>Mon, 07 Jul 2025 09:18:05 +0800</pubDate><description><![CDATA[指定使用的GPU设备：基础模型路径template：模板类型，需与模型匹配cutoff_len：最大序列长度：训练轮数：每设备批次大小output_dir：模型保存路径dataset：训练数据集名称@app.post("/finetune/start", summary="启动微调服务")@app.post("/finetune/stop", summary="停止微调服务")@app.get("/finetune/status", summary="获取微调服务状态")]]></description><category></category></item><item><title><![CDATA[大模型显存占用评估完整指南]]></title><link>https://blog.csdn.net/jining11/article/details/148912482</link><guid>https://blog.csdn.net/jining11/article/details/148912482</guid><author>jining11</author><pubDate>Tue, 01 Jul 2025 09:02:48 +0800</pubDate><description><![CDATA[大模型的显存大小，与大模型本身的参数量有关，与是训练还是推理过程有关，而训练过程采用的训练参数以及推理过程采用的推理参数也会影响。模型参数量：决定了模型权重的基础存储需求运行模式：训练过程需要存储梯度和优化器状态，显存需求远高于推理训练方法：全参数微调、LoRA、QLoRA等不同方法的显存需求差异巨大量化精度：FP32、FP16、INT8、INT4等不同精度直接影响显存占用推理参数：批次大小、序列长度、KV缓存等都会显著影响推理时的显存需求。]]></description><category></category></item></channel></rss>