<?xml version="1.0" encoding="utf-8" ?><rss version="2.0"><channel><title><![CDATA[元直的博客]]></title><description><![CDATA[不積跬步，無以至千里；不積小流，無以成江海。]]></description><link>https://blog.csdn.net/gsjthxy</link><language>zh-cn</language><generator>https://blog.csdn.net/</generator><copyright><![CDATA[Copyright &copy; gsjthxy]]></copyright><item><title><![CDATA[通过 ACM 论文模板学习 LaTeX 语法：从零到顶刊投稿]]></title><link>https://blog.csdn.net/gsjthxy/article/details/165363961</link><guid>https://blog.csdn.net/gsjthxy/article/details/165363961</guid><author>gsjthxy</author><pubDate>Mon, 14 Sep 2026 22:24:39 +0800</pubDate><description><![CDATA[本文以ACM acmart模板为载体，系统讲解LaTeX论文写作核心语法，涵盖编译环境配置、模板使用、文档结构、图文表格、公式算法、参考文献引用等顶刊必备技能。通过真实可运行代码示例，手把手指导零基础用户从安装工具到独立排版，掌握规范排版与错误排查能力，实现快速迁移至IEEE/Springer等主流模板，助力科研论文高效投稿。]]></description><category></category></item><item><title><![CDATA[DFT 系列（03）：ATPG、故障模型与 Coverage——别被 99% 这个数字骗了]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164326990</link><guid>https://blog.csdn.net/gsjthxy/article/details/164326990</guid><author>gsjthxy</author><pubDate>Thu, 03 Sep 2026 10:29:36 +0800</pubDate><description><![CDATA[文章指出没有故障模型和分母定义的“99% coverage”没有可比性，可能是stuck-at coverage或排除大量untestable/X-blocked faults。拆解ATPG原理、故障模型语义、coverage分母陷阱及pattern仿真与X处理，强调aborted不等于proven untestable，coverage公式必须给出类别与分母，避免被表面数字误导。]]></description><category></category></item><item><title><![CDATA[DFT 系列（02）：Scan Cell、Scan Chain 与 Shift/Capture 协议]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164326901</link><guid>https://blog.csdn.net/gsjthxy/article/details/164326901</guid><author>gsjthxy</author><pubDate>Thu, 03 Sep 2026 10:27:53 +0800</pubDate><description><![CDATA[本文否定Scan chain单纯“灌入移出”的验证法，建立最小概念体系：muxed-D scan cell行为模型、链方向作为单一事实源、shift/capture/unload协议、lockup latch必要性，以及DV参考模型与首错分类。强调参考模型必须与chain manifest同源，按首错偏移分类可快速定位断链、跨域、capture语义等问题。]]></description><category></category></item><item><title><![CDATA[DFT 系列（01）：先别急着插 Scan——DFT 的目标、架构与职责边界]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164326767</link><guid>https://blog.csdn.net/gsjthxy/article/details/164326767</guid><author>gsjthxy</author><pubDate>Thu, 03 Sep 2026 10:26:15 +0800</pubDate><description><![CDATA[本文阐述DFT须在微架构阶段定义，通过扫描链等结构提升可控性与可观测性，覆盖制造测试、诊断与系统内测试三类目标。强调DFT架构规格需明确扫描、时钟、存储、访问等细节，并区分DE、DFT、DV、PD等角色责任。DFT验证需分层，从RTL到ATE逐级确认，否则易产生量产风险。]]></description><category></category></item><item><title><![CDATA[12 前置知识：PyTorch 速览（张量、自动微分与模块）]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164301641</link><guid>https://blog.csdn.net/gsjthxy/article/details/164301641</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 17:23:53 +0800</pubDate><description><![CDATA[本文是对PyTorch关键机制的速览，涵盖张量（含多维约定、形状操作与广播）、自动微分（计算图、梯度累积及no_grad优化）、nn.Module（模型构建、参数保存与模式切换）以及DataLoader等，帮助读者补齐理解GPT代码所需的PyTorch编程基础。]]></description><category></category></item><item><title><![CDATA[11 训练进阶：学习率预热、余弦衰减与梯度裁剪]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164301488</link><guid>https://blog.csdn.net/gsjthxy/article/details/164301488</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 17:19:26 +0800</pubDate><description><![CDATA[本文讲解LLM训练三大技巧：学习率预热避免起步震荡，余弦衰减平滑收敛，梯度裁剪防梯度爆炸；给出get_lr函数与PyTorch实现，实测可显著降低验证损失，是免费性能提升。]]></description><category></category></item><item><title><![CDATA[10 高效微调：LoRA 实战（把参数量压到 1%）]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164301369</link><guid>https://blog.csdn.net/gsjthxy/article/details/164301369</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 17:14:48 +0800</pubDate><description><![CDATA[本文介绍高效微调方法LoRA，通过低秩分解将权重更新压缩为两个小矩阵，仅训练约1%参数即可接近全量微调效果。采用替换Q/V投影层、冻结原权重策略，推理时合并权重零额外开销，省显存且实现简单，是推荐的默认PEFT方案。]]></description><category></category></item><item><title><![CDATA[09 指令微调：训练一个能听懂指令的 AI 助手]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164294060</link><guid>https://blog.csdn.net/gsjthxy/article/details/164294060</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 11:32:14 +0800</pubDate><description><![CDATA[指令样本长度不一，默认 collate 无法把变长序列堆成一个张量。需要自定义 collate：每批内填充到最长长度。# 把填充位置的 pad token 替换为 -100（保留第一个作为结束标记）关键理解（对应-100输入 = 原序列 + 一个 pad 再去掉最后一个（长度对齐）。目标 = 原序列右移一位+ 末尾补 pad。目标中的 pad 位置全部替换为-100，但保留一个 50256（让模型学会"何时结束回答"）。交叉熵的默认会自动跳过 -100 的位置。]]></description><category></category></item><item><title><![CDATA[08 分类微调：把 GPT 变成垃圾邮件分类器]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164289318</link><guid>https://blog.csdn.net/gsjthxy/article/details/164289318</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 10:41:22 +0800</pubDate><description><![CDATA[本文介绍如何将预训练GPT微调为垃圾邮件分类器。预训练模型输出词表概率，需替换输出头为二分类层。微调可仅训练输出头或全量微调，后者效果更好。数据使用UCI SMS数据集，需分层划分并填充样本。关键点：取最后一个token嵌入进行分]]></description><category></category></item><item><title><![CDATA[07 预训练（下）：温度采样、Top-k 与加载官方 GPT-2 权重]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164289220</link><guid>https://blog.csdn.net/gsjthxy/article/details/164289220</guid><author>gsjthxy</author><pubDate>Wed, 02 Sep 2026 09:42:57 +0800</pubDate><description><![CDATA[本文介绍了提升文本生成质量的两项技术：温度采样与Top-k截断，使输出多样且合理；并讲解了模型保存/加载方法，以及如何加载官方GPT-2权重，跳过预训练直接体验成熟模型。]]></description><category></category></item><item><title><![CDATA[06 预训练（上）：损失、困惑度与训练循环]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164264702</link><guid>https://blog.csdn.net/gsjthxy/article/details/164264702</guid><author>gsjthxy</author><pubDate>Tue, 01 Sep 2026 17:45:38 +0800</pubDate><description><![CDATA[本文介绍GPT预训练核心：通过“预测下一个词”的自监督任务学习语言规律。用交叉熵损失衡量预测误差，困惑度=exp(损失)直观反映模型平均候选词数。训练循环周期性地计算损失并生成样例，结合定量与定性评估，验证模型语言能力。]]></description><category></category></item><item><title><![CDATA[05 从零搭建 GPT 模型：LayerNorm、GELU 与解码器堆叠]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164260922</link><guid>https://blog.csdn.net/gsjthxy/article/details/164260922</guid><author>gsjthxy</author><pubDate>Tue, 01 Sep 2026 15:13:56 +0800</pubDate><description><![CDATA[本文介绍从零搭建GPT模型的关键组件：LayerNorm对特征维归一化，GELU平滑激活，前馈网络扩展收缩，残差连接缓解梯度消失。随后组装TransformerBlock（多头注意力+前馈，Pre-LN），最终构建GPTModel并实现文本生成，附参数量核算。]]></description><category></category></item><item><title><![CDATA[04 注意力机制（下）：因果掩码与多头注意力]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164260720</link><guid>https://blog.csdn.net/gsjthxy/article/details/164260720</guid><author>gsjthxy</author><pubDate>Tue, 01 Sep 2026 15:06:15 +0800</pubDate><description><![CDATA[本文介绍了因果掩码与多头注意力：因果掩码通过上三角置-∞使GPT只关注过去，保障自回归训练与推理一致；多头注意力并行捕捉不同模式。并涵盖dropout正则化及CausalAttention类实现细节，为构建大模型奠定基础。]]></description><category></category></item><item><title><![CDATA[03 注意力机制（上）：从 RNN 困境到自注意力与缩放点积注意力]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164260575</link><guid>https://blog.csdn.net/gsjthxy/article/details/164260575</guid><author>gsjthxy</author><pubDate>Tue, 01 Sep 2026 15:02:16 +0800</pubDate><description><![CDATA[本文讲解注意力机制：针对RNN长句信息瓶颈，提出自注意力，让每个token动态加权全部token，获得上下文相关表示。实现分三步：点积算分数、softmax归一化权重、加权求和得上下文向量；矩阵化可并行。最后引入可学习的QKV投影，使注意力具备学习能力，为缩放点积注意力打下基础。]]></description><category></category></item><item><title><![CDATA[02 文本数据处理：分词、BPE 与词嵌入——给 LLM 准备“燃料”]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164223288</link><guid>https://blog.csdn.net/gsjthxy/article/details/164223288</guid><author>gsjthxy</author><pubDate>Mon, 31 Aug 2026 16:45:00 +0800</pubDate><description><![CDATA[本文讲解LLM文本数据处理的完整流水线：原始文本经分词（推荐BPE子词）、映射为token ID，再经嵌入层变为稠密向量。文章从朴素正则分词器讲起，说明词汇表构建、编码解码配对，并引入<|unk|>和<|endoftext|>等特殊token处理未知词与文档边界。最后强调嵌入向量将语义相近的词映射到相近位置，是模型理解语言的基础。]]></description><category></category></item><item><title><![CDATA[01 理解大模型：为什么从零构建？——LLM 全景与学习路线图]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164216890</link><guid>https://blog.csdn.net/gsjthxy/article/details/164216890</guid><author>gsjthxy</author><pubDate>Mon, 31 Aug 2026 15:10:02 +0800</pubDate><description><![CDATA[大语言模型（Large Language Model, LLM）是一种基于深度学习的神经网络模型，专门用于理解、生成和处理自然语言。它以「预测下一个词」为核心任务，在海量文本上自监督训练后，具备了填空、续写、问答、翻译、摘要、对话等能力。输入: "今天天气真"输出: "好，我们出去走走吧。关键在于：模型并没有「理解」天气，它只是学会了根据上下文推断下一个词的概率分布。这种「模仿」能力足够强时，就会在行为上表现为"智能"。]]></description><category></category></item><item><title><![CDATA[00 工程篇：环境搭建与项目结构（从零开发 GPT 的开工准备）]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164216460</link><guid>https://blog.csdn.net/gsjthxy/article/details/164216460</guid><author>gsjthxy</author><pubDate>Mon, 31 Aug 2026 15:01:20 +0800</pubDate><description><![CDATA[系列第 0 篇。本文提供完整的环境清单、项目目录结构、与常见工程问题速查，是整套系列可落地开发的"开工手册"。]]></description><category></category></item><item><title><![CDATA[DFT 设计与验证系列（专业版）：从 Scan 到 SoC/Chiplet Sign-off]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164117700</link><guid>https://blog.csdn.net/gsjthxy/article/details/164117700</guid><author>gsjthxy</author><pubDate>Thu, 27 Aug 2026 14:38:20 +0800</pubDate><description><![CDATA[面向 DE、DV、DFT Engineer 的系统教程与项目查阅手册。全系列 15 篇：1 篇导读 + 14 篇专题。每篇可独立阅读，也可作为项目执行时的查阅手册。]]></description><category></category></item><item><title><![CDATA[DFT 系列（14）：DE/DV 项目落地——Milestone、Testplan、Case 与 Sign-off 模板]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164109710</link><guid>https://blog.csdn.net/gsjthxy/article/details/164109710</guid><author>gsjthxy</author><pubDate>Thu, 27 Aug 2026 09:42:50 +0800</pubDate><description><![CDATA[DFT 是贯穿 spec、architecture、RTL、netlist、pattern、timing、power、安全与量产的系统工程；验证的价值，是让这些交付物之间的意图保持可追溯、可复现、可证伪。工具会换代，工艺会演进，标准会更新——但"先定义证据，再谈覆盖率"这条纪律不会过时。]]></description><category></category></item><item><title><![CDATA[DFT 系列（13）：Coverage、Sign-off 与 Debug——先分类，再看波形]]></title><link>https://blog.csdn.net/gsjthxy/article/details/164109661</link><guid>https://blog.csdn.net/gsjthxy/article/details/164109661</guid><author>gsjthxy</author><pubDate>Thu, 27 Aug 2026 09:41:17 +0800</pubDate><description><![CDATA[单一 coverage dashboard 容易制造虚假的确定性。DFT readiness 至少需要 requirement、structural、protocol、scenario、assertion、fault、pattern 和 waiver 八类证据。本篇给出覆盖率的多维框架、requirement trace、waiver 纪律、debug 决策树、失败签名表与首错证据包——这是全系列"证据观"的收敛。]]></description><category></category></item></channel></rss>