jiangjun_233的博客

通过拆解它的结构，你可以直观理解大模型内部的关键组件是如何协同工作的，包括 Tokenizer（分词器）、位置编码、多头注意力机制（Multi-headed attention）、KV 缓存、矩阵乘法器以及 ReLU 激活函数等模块的基础运作逻辑。为了让游戏内的算力能够支撑一个 500 万参数的模型，作者运用了典型的模型优化与量化策略。这个项目的作者仅靠《我的世界》（Minecraft）里的纯红石电路，在游戏中物理构建了一个拥有 500 万参数的微型语言模型（Transformer 架构）。

博主自己学习过的网页分享给大家

探讨模拟电路（Analog Circuits）与射频电路（RF Circuits）的区别，本质上是在探讨这一物理量对电子行为的降维打击。：水压（电压）和水流（电流）在管道（导线）中是确定的。只要管子不漏水，我们利用基尔霍夫定律（KCL/KVL），就能精确算出一个节点的水压是多少，流过某个阀门的水量是多少。：当频率极高、波长极短时，电子信号不再是乖乖在管子里流动的水，而变成了狂暴的海浪（电磁波）。海浪撞到防波堤（阻抗不匹配的节点）会反射回来，形成驻波；海浪之间还会发生干涉。

自己研究出来的virtuoso小操作

数字信号、模拟信号、量化、采样：概念、关系与简要介绍

PDK库安装过程中可能遇到的问题