- 博客(2)
- 收藏
- 关注
RSS订阅原创 Transformer和注意力机制
本文解析Transformer注意力机制：受鸡尾酒会效应启发，聚焦关键信息。编码器通过多头自注意力建立词间关联；解码器通过掩码自注意力逐步生成输出。重点阐释缩放点积注意力计算（QKV矩阵、softmax归一化）、残差连接与层归一化的作用，以及位置编码的两种实现（正弦编码、旋转位置编码）。对比传统RNN在处理长序列时的差异：RNN顺序计算易遗忘远距离信息，而Transformer并行处理、直接建模任意距离依赖，因此成为大模型基石。全文通过类比与
2026-04-16 14:29:06
355
原创 大模型强化学习：PPO算法和GRPO算法（RLVR+PRM）
本文深入综述强化学习在大模型中的应用与进展。首先阐述RL概念及其对齐作用，重点解析PPO算法的四个关键组件。随后详述GRPO利用组内优势计算替代Critic的创新思路，以及GSPO在序列级优化上的改进。文中对比过程奖励(PRM)与结果奖励(ORM)的差异，并介绍结合客观验证的RLVR新范式。结论指出，PRM+RLVR能同时优化推理过程与结果准确性，代表了未来方向。全文系统梳理了从PPO到GRPO、GSPO的算法演进路径，及奖励模型设计的核心逻辑，为理解该领域提供了完整视角。
2026-02-03 16:21:16
1194
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人