董董灿是个攻城狮-CSDN博客

原创我的Transformer专栏来啦

现在很多主流的大语言模型，比如chatGPT都是基于该架构进行的模型设计，可以说Transformer顶起了AI的半壁江山。对于这些有些枯燥的概念，有些乏味的数学表达，我会尽可能说的直白和通俗易懂，打通理解Transformer的最后一公里。我会在本公众号进行文章的首发，相关文章会添加标签“Transformer专栏”，可点击文章左下角的标签查看所有文章。巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。

2024-05-09 22:05:51 621 2

原创历时3个月，代码开源了，给所有想入门 AI 视觉的朋友

本项目旨在完成对 AI 的计算机视觉的入门学习，并且在 Intel CPU 上完成以 resnet50 为基础的神经网络的全部手写，以及性能优化。首先通过对一些经典的传统计算机视觉算法进行实操，理解计算机视觉的含义；随后以 resnet50 神经网络为例子，系统的讲解一个 AI 模型的基础算法原理和相关背景知识。最后通过本仓库中的代码实战，从零手写 resnet50 神经网络，完成任意一张图片的识别，以及神经网络模型的性能优化。

2024-02-25 21:12:10 1121 2

原创手把手教你升级GPT-4，内附详细步骤

在升级之前，你需要先有一个 GPT-3.5 的账户，GPT-3.5 是可以免费使用的，并且基本可以满足很多人的日常需求。而大部分人选择升级 GPT-4 的原因，则是看中了。

2024-01-11 19:24:03 3337

原创计算机视觉入门与调优

大家好啊，我是董董灿。在 CSDN 上写文章写了有一段时间了，期间不少小伙伴私信我，咨询如何自学入门AI，或者咨询一些AI算法。90%的问题我都回复了，但有时确实因为太忙，没顾得过来。在这个过程中，我发现很多小伙伴问的问题都类似：比如如何入门计算机视觉，某某算法是做什么的，有什么作用。之前写的文章由于过于分散，不成体系，很多知识点没有串联起来。然后依托Resnet50这一经典图像分类网络，将涉及到的算法都剖析和实现一遍，最后亲自完成该神经网络的搭建，并带你完成任意图像的识别。

2024-01-04 22:16:26 1547

原创 Transformer 论文通俗解读：FFN 中的非线性表达

因此，在这类的线性变换层后面，要添加非线性的激活函数，使得整个变换不至于是线性变换，从而使得神经网络模型可以拟合成更加复杂多变的非线性系统。本文暂且不论 FFN 中添加 FC 的作用，你只需要了解在多个线性层中间一定要添加非线性层，来防止多个线性层叠加退化成一个线性层就可以了。关于 FFN 中添加 FC，也就是线性层的作用，在后面的文章中会进行详细介绍。虽然基础，但是我还是希望针对这部分内容做一个更加详细的说明，希望你可以对此有一个更深刻的认识，而不仅仅是 Transfomer 结构。

2024-07-22 17:45:28 657

原创手把手带你从零微调大模型！

微调大模型需要非常高的电脑配置，比如GPU环境，相当于你在已经预训练好的基础上再对大模型进行一次小的训练。但是不用担心，本篇文章会使用阿里魔塔社区提供的集成环境来进行，无需使用你自己的电脑配置环境。你只需要有浏览器就可以完成。本次微调的大模型是零一万物的 Yi 开源大语言模型，当然微调其他大模型的过程和原理也有差不多。这里说明一下，阿里魔塔社区对于新用户提供了几十小时的免费GPU资源进行使用，正好可以来薅一波羊毛，学习一下大模型的微调。话不多说，直接开始。1. 账号和环境准备然后按照下面的箭头操作。

2024-07-22 17:35:46 927

原创爱丽丝梦游仙境，把大模型打回原形

推理能力和搜索引擎不一样，很多大模型表现的好，有时会被认为是因为大模型学习了大量的知识，而这些知识被编码存储在了大模型的权重中。然而，当研究人员让当前最先进的语言模型如GPT-3.5/4、Claude、Llama等回答这个问题时，结果却令人吃惊。如果你也希望了解AI技术，学习AI视觉或者大语言模型，戳下面的链接加入吧，这可能是你学习路上非常重要的一次点击呀。这就是“爱丽丝梦游仙境”测试，研究人员设计了一项名为“爱丽丝梦游仙境”（AIW）的测试。在如今AI无处不在的时代，许多人认为AI已经无所不能了。

2024-07-11 09:24:44 324 1

原创 Transformer 论文通俗解读：FFN 的作用

在经过前面3节关于 Transformer 论文的解读之后，相信你对提出 Transformer 架构的这篇论文有了一定的了解了，你可以点击下面的链接复习一下前3节的内容。总的来说，这篇论文虽然重要且经典，但很多关于Transformer 架构的技术细节并没有介绍的很清楚，因此读起来有些晦涩。之前的几节文章在通读这篇论文时，采用的是的方式来进行的。这么做的目的也很简单：帮助你了解这篇论文中每一部分的写作意图是什么。至于论文中没有详细阐述的技术细节内容，本专栏后续会继续完善。

2024-07-11 09:19:50 1021

原创炸裂！GPT5 发布日期曝光, 附GPT系列模型发展历程

大家好啊，我是董董灿。作为最受欢迎的大模型之一，GPT5什么时候发布一直吊着网友们的胃口。2024年6月20日，美国达特茅斯工程学院公布了对OpenAI首席技术官米拉·穆拉蒂（Mira Murati）的采访视频。米拉在采访中透露，虽然这么说有些夸张，但博士水平意味着 GPT5 可以在某些特定任务中具有更好的表现，而非通用水平表现。也就是说，在某些特定任务中，模型更加专业，水平更高，或许是得益于模型训练中有更多的专业语料的加持。

2024-07-05 09:26:14 790

原创《Attention is all you need》通俗解读，彻底理解版：注意力机制的运算

最近为了撰写这部分内容，将论文又重新通读了一遍，也查阅了一些相关的资料，每阅读一遍资料都有新的收获。发现Transformer架构的设计思想是真的牛，尤其是当你尝试用数学的思想来解释该架构时。但是限于目前本人的数学功底还不够扎实（数学是一个非常严谨的学科），预计在未来会恶补一些数学知识，然后再尝试用通俗的数学知识来解析Transformer 架构的思想。本篇将继续沿着前面几篇解读论文的思路，来解读一下论文中的第3.2.1章节，对应的内容是模型结构的“注意力”部分。

2024-07-05 09:22:41 1693

原创《Attention is all you need》通俗解读，彻底理解版：part2

在每一个block中，每个子层中都有残差连接，而残差连接（加法）要求两个输入的数据维度相同，因此作者在本段的最后一句说到，为了满足残差连接的需求，也为了使模型更加简单，所有子层输入的维度（包括Embedding层，因为Embedding的输出是MHA层的输入）和所有子层输出的维度，都是512。这是因为解码器是输出结果，只能已经输出的内容（过去）对当前输出的单词有影响，i 之后的单词的（未来）不应该对当前的输出产生任何影响。第一段内容可能是为了行文逻辑的考虑，作者引出编码器和解码器架构，为下文做铺垫。

2024-06-26 11:24:56 674

原创《Attention is all you need》通俗解读，彻底理解版：part1

论文的摘要写的非常简洁明了。主要介绍了当时论文写作的背景，并提出 transformer 这一架构，同时给出了基于 Transformer 架构的模型在一些经典任务中性能数据。这一段是说，在写这篇论文时，已经由很多序列模型了，比如之前介绍的Seq2Seq结构，这些模型都是基于复杂的循环神经网络或者卷积神经网络而来的，并且他们都包含一个编码器和解码器。在一些表现好的模型中，还会在编码器和解码器之间引入注意力机制。

2024-06-26 11:21:18 1171

原创裁员裁到大动脉，是一种什么体验！

今年理想汽车也开始了裁员，优化比例超18%，涉及员工5600人左右，智驾团队将减到1000人以内。即使召回开始上班，但经过这么一番折腾，员工与公司之间的信任也肯定不如从前，甚至没有信任可言。降本增效是每个当老板的人都喜欢挂在嘴边的口头禅，尤其是行业不景气，公司发展遇到瓶颈的时候。要么搞设备自动化和流程自动化，比如引入AI提效工具，这是增效，要么裁员，这是降本。现在还记得去年一些公司裁员的场景，当时可谓是哀嚎遍野，很是惨烈。你是去是留，我说了算。只能说，打工人的世界，充满了魔幻，大家好啊，我是董董灿。

2024-06-21 10:05:50 350

原创蔚来汽车AI算法工程师，如何理解注意力？

大家好啊，我是董董灿。今天分享一个上海蔚来汽车的AI算法岗位面试经验总结帖，面试岗位为算法工程师。这次面试提到的问题，除了与实习相关内容和反问之外，面试官总共问了8个问题，看了这个面经贴，我突然想到帖子中到的很多知识点，我写的文章都提到过。比如梯度消失和梯度爆炸的原因，这一点在介绍激活函数时曾经提到过（），LSTM 的更新门的原理（除了一些较简单的算法理解之外，面试中还。正好最近我在整理和撰写注意力机制相关的文章，比如等。

2024-06-21 10:03:58 812

原创快手面试，什么是矩阵乘法？

你可以这么理解，矩阵乘法的本质，是资源的整合和再创。我非常喜欢用下面的例子来说明这个问题。你是一个鸡尾酒调酒师，家里储存了很多鸡尾酒的原料，有金酒、利口酒、柠檬汁和可乐等等。今天家里来了 3 位客人，他们分别喜欢喝“自由古巴”、“长岛冰茶”以及“龙舌兰日出”这 3 款鸡尾酒，并向你下了单。希望你给他们调配出来各自喜欢的鸡尾酒。巧的是，这 3 款鸡尾酒的原料都是金酒、利口酒、柠檬汁和可乐。你作为一个调酒师，分分钟就把客人的爱好的鸡尾酒给调出来了。怎么做的呢？

2024-06-19 10:20:13 121

原创美团的 AI 实习，什么是数据增强？

数据增强是一种通过对原始数据集进行变换，生成新的训练样本的技术。这些变换包括图像翻转、旋转、缩放、裁剪以及其他各种手法，通过引入这些变化，可以有效地扩充数据集的规模，提高模型的泛化能力。是不是很简单？将原始数据集做一些变换然后送给模型做训练，此时裁剪出来的图片，可能就是猫咪尖尖的耳朵和大大的眼睛，训练过程中模型依然会判断这是猫。此时，如果在送给模型一只戴着头盔的猫，即使模型不认识头盔，它也认识猫耳朵，从而识别出来这是一只猫。

2024-06-19 10:16:33 1024

原创美团的 AI 面试有点简单

数据增强是一种通过对原始数据集进行变换，生成新的训练样本的技术。这些变换包括图像翻转、旋转、缩放、裁剪以及其他各种手法，通过引入这些变化，可以有效地扩充数据集的规模，提高模型的泛化能力。是不是很简单？将原始数据集做一些变换然后送给模型做训练，此时裁剪出来的图片，可能就是猫咪尖尖的耳朵和大大的眼睛，训练过程中模型依然会判断这是猫。此时，如果在送给模型一只戴着头盔的猫，即使模型不认识头盔，它也认识猫耳朵，从而识别出来这是一只猫。

2024-06-13 09:37:45 548

原创快手AI算法岗，50W年包羡慕到流泪

之前看过一本书，书中讲到我们可以把毕业的前5年时间当做“职业不断选择的过程”，在这5年的时间里，你可以有很多次机会来试错，来不断地选择适合自己的职业道路。面对高薪与内卷的局面，我一直给出的建议就是：无论环境如何，你能做的就是找到自己喜欢的工作，然后去试着做就行了，尤其是对于刚毕业的学生。任何一个全新的行业，一旦你入门之后，坚持学习2-3年，就可以对这个行业有非常深刻的认识，面对新行业，难在入门，入门之后，难在坚持。我之前也尝试过很多的职业选择道路，最近的几年稳定在了AI算法的优化方向，你可以查看。

2024-06-13 09:33:32 520

原创本科毕业一年30万已经是人中龙凤了

大家好啊，我是董董灿。今天看到了一个关于“”的问题，我觉得很有意思，分享给大家。周围很多大佬都去深造或者工作做 CV 相关方向了，然而在网上看到一种言论，说现在学 CV 已经晚了，不适合现在入行论，想问问是这样吗。对计算机视觉方向很有兴趣，也许是跟风，并且自动驾驶等领域的确很容易让人产生兴趣。假设侥幸拿到 CV 相关的 offer，又或者是 machine learning、deep learning 相关的 offer，那么是否应该果断加入呢，因为感觉图像处理算法已经相对传统一些了。

2024-06-11 19:23:35 460

原创基于 Transformer 的大语言模型

近年来，研究人员发现，扩大语言模型的规模不仅增强了它们的语言建模能力，而且还产生了处理传统NLP任务之外更复杂任务的新兴能力。可以看到，自注意力机制允许模型识别不同输入部分的重要性，无论距离如何，并且可以捕捉输入句子中的长距离依赖和复杂关系。特别地，在第一个块之前，使用分词器将原始输入句子转换为一系列标记，随后的嵌入层用于将标记转换为输入特征。对于每个块，它接收前一个块的输出特征作为输入，并通过每个子模块传递特征以获得输出。然后，将额外的位置嵌入添加到输入特征中，以编码每个输入标记的顺序。

2024-06-11 19:22:51 685

原创我入门AI的学习感想

今天回答一个朋友问的问题。“我在入门深度学习的过程中，从配环境到 debug 全是坑，解决问题的时间远超跑模型的时间。这个问题真的问到我的心坎里了，多年前，我从机械硕士毕业转码搞软件开发，然后转行做深度学习算法，已有不少年了。转行的过程，就是从零开始的过程。无论是自学C++、Python这种编程技能，还是学习AI算法，还是钻研计算机体系结构，每一部分都有很多的感悟。这里重点说一下学习AI算法的经历和感受。记得第一次参加与深度学习算法的面试时，是一个小公司，面试官问我什么是权值？

2024-06-05 09:53:35 146

原创如何理解AI模型的“注意力”？

以上图为例，当你注意到小狗的鼻子和眼睛以及右侧的耳朵（红色框标识）后，你会自然而然的认为，在小狗的左侧会有一只类似右侧尖尖的耳朵存在（黄色框标识）。在人工智能的发展中，注意力的出现是最令人兴奋的一项技术进步，并且这项技术将长期存在于AI的基础算法架构中，很难被替代。你可以观察上面的图像，然后思考一下：在观察这只狗的时候，你的注意力（眼睛观察的焦点）最开始放在了图像的什么地方？人类的视觉注意力，通常会用“高分辨率”关注自己感兴趣的区域（比如你的第一眼可能会落在上图中小狗的耳朵和鼻子上）。

2024-06-05 09:51:34 457

原创算法岗这么卷吗？985硕士也要报培训班了

对于这些有些枯燥的概念，有些乏味的数学表达，我会尽可能说的直白和通俗易懂，打通理解Transformer的最后一公里。巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。另外，现在培训机构里培训你、教你找工作的人，可能自己都没工作过，教你搞模型的人，可能自己都没实际做过业务，也仅仅会调用一些API而已。在我这里过的两个候选人，一个是哥伦比亚的，一个是清华的，还有很多简历很好但都没有过。大家好啊，我是董董灿。

2024-05-20 22:44:11 535

原创搞懂这个例子，再也不怕词向量了

对于这些有些枯燥的概念，有些乏味的数学表达，我会尽可能说的直白和通俗易懂，打通理解Transformer的最后一公里。巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。在最下面增加了water单词的可视化，可以看到在上面有一条蓝色的线从上到下贯穿，一直到water则停止消失了，这条蓝色的线或许代表的是“人类”这种信息。上面放了：queen，king，man，women，boy，girl，water（无关）的可视化结果。

2024-05-20 22:40:11 676

原创为什么卷积可以提取特征？

巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。这是因为 resnet 中有大量的设计好的卷积层，因此，大部分将 resnet 作为骨干网络的神经网络，都是把 resnet 这一部分结构当做一个图像的特征提取器来使用。可以回想一下在介绍卷积的时候，描述的卷积运算的场景是：一个窗口在图片上滑动，窗口中的数值是卷积核的参数，也就是权值。和矩阵乘法一样，卷积在每一次扫描的过程中，完成的是权值数据和输入图像的乘累加运算。

2024-05-19 22:26:22 845

原创图解词向量的特征

巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。在很多类似的测试中，都会有许多道题来让你回答，然后从多个维度、多个方面衡量你的潜力或特质，然后给出分值，最后综合来评判你是一个什么样的人。是的，在数学模型上，衡量两个人的性格数据（这里实际上是向量）是否相似，可以使用余弦相似度的方法，这个在上一节介绍过了。如果把上述例子中的得分组成的向量看做是词嵌入向量，那么其中的数值，便是代表一个单词在各个维度特征的得分值。

2024-05-19 22:25:17 1067

原创通俗理解向量：从One-hot 到词嵌入

巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。我们学过几何，在三维坐标系下，[1, 0, 0]、[0, 1, 0]和[0, 0, 1]这三个向量是互相垂直的，也就是互相正交独立。那么二进制向量，就是里面的数字都是二进制的，像是[0, 1, 0, 0]，因为在二进制里面，数字只有 0 和 1。上表竖着看，黄色的代表是猫的编码 [1, 0, 0]，浅绿色代表的是狗的编码 [0, 1, 0]。

2024-05-15 17:46:49 721

原创 GPT4 是如何将文本 token 化的？

巧的是，下班路上刚手敲完大纲，晚上一个小伙伴来咨询学习LLM的事情，问我之前写的《五一节前吹的牛，五一期间没完成，今天忙里偷闲，给完成了。像GPT-3.5和GPT-4这样的模型使用的方法与旧模型（比如GPT-2）会有不同，不同的token算法对于相同的输入文本会产生不同的token序列。通过该网站工具，你可以了解一段文本如何被GPT-4模型token化的，以及文本的被token化之后的token总数是多少。需要注意的是，具体的文本token化结果与模型有关。

2024-05-15 17:44:17 311

原创大模型的性能是真不好调啊

，正在内测更新中。另一方面，则是可以依照自家独特的模型和算法，自定义设计出更适用于自家业务的芯片结构，这样做出来的产品性能才好。在接触的模型中，有一些模型有着非常奇怪的分支结构，有些有着非常奇怪的shape，有的有着奇怪的自定义算法。这样设计出来的芯片，在使用其进行算法开发时，才能发挥出最大的硬件潜能，才能榨干芯片的每一处性能。前段时间，在某芯片上调试大模型的一个矩阵转置算法，用了很长时间，才将其性能调到可用的范围。所以啊，一个看似简单的算法，其实背后要做的事和细节太多了，模型性能调优真的很难。

2024-05-12 23:14:56 385

原创阿里P7，绩效3.5+，年终22W

另外，据说淘天部门的员工如果绩效达到3.75以上，有6个月的年终奖，加上3000元的普调。如果当初真的去了，如我所想的那样，职位并不是自己喜欢的，还要加班加点疲于奔命，最终因为某些原因被优化，那哪里里还有心思和时间做其他事情呢？2023年阿里的年终奖，可以说中规中矩，并没有在网上激起很大的浪花，可能与近些年公司各种改制、各种改革有关。P7级别，在阿里基本都是百万年薪级别的了，正常发挥，年终22W也还算是ok，毕竟工资基数在那。最终我主动结束了倒数第二场的面试，因为职位内容和我的需求不匹配，而且还有风险。

2024-05-12 23:11:44 413

原创三条命令快速配置Hugging Face

另外，如果你是在Linux 环境下做开发，建议将导入环境变量那条命令放在 ~/.bashrc 中，这样系统启动就会自动导入该环境变量，之后所有的开发就不用关心Hugging Face 有关的环境配置了。要学习与Transformer架构相关的知识，肯定要接触一些大模型，要接触大模型就免不了要从Hugging Face上下载一些模型和参数等文件。除此之外，Hugging Face 还有一个模型共享平台，类似于大模型界的Github,开发者可以在这个平台上下载训练好的大模型来使用。大家好啊，我是董董灿。

2024-05-09 22:03:35 447

原创计算机是如何理解文本的？

余弦相似度虽然可以方便快速的判断两个向量之间的关系，但是它也是有缺点的，那就是它并没有考虑向量的绝对大小，只关注方向，这一点在公式中也可以看出来。通过计算也可以得到相同的结论：“猫”和“狗”余弦相似度接近1，说明两个向量更为接近，而“鱼”和“跑”则接近-1，说明两个向量代表的单词相差很远。我们通过观察可以很轻松的看出来，“猫”和“狗”的两个向量很相近，“鱼”和“跑”代表的两个向量则相差很远。- 两个向量之间的夹角越小，余弦相似度值越接近于1，说明两个向量靠的越近，代表的两个单词就越相关。

2024-04-24 22:33:53 818

原创 5分钟搞懂词向量生成技术：Word2Vec

举个例子，如果在训练时，模型看到了句子“猫喜欢吃鱼”，在Skip-gram模型中，如果选择“喜欢”作为输入单词，模型便会试图预测它周围的“猫”和“吃鱼”。简单来说，Word2Vec 并不是一个具体的神经网络模型，而是一个由很多生成词向量的模型（算法）组成的词向量生成框架，或者词向量生成工具。我们通过观察可以很轻松的看出来，“猫”和“狗”的两个向量很相近，“鱼”和“跑”代表的两个向量则相差很远。相同的是，这两种方法都是让模型来学习大量的文本，以及文本中单词的使用环境来生成高质量的词向量。

2024-04-24 22:30:52 1218

原创大模型的自我监督

因此，每给定一个单词(Token)，模型都要预测下一个词，然后将预测出来的词加上原来已有的词作为新的输入，继续预测下一个词，如此反复迭代。事实上，很多自然语言处理（NLP）的模型，尤其是上文提到的大语言模型（如GPT系列），都是通过无监督学习或自监督学习的方式进行训练的。在 GPT 等模型的训练时，如果给定上述句子作为模型的输入，是希望模型可以预测出下一个词是什么，这是模型的任务。在这种训练模式下，模型被训练来预测给定前文的下一个词，这样，模型就能学习到文本的顺序结构和语言的生成过程。

2024-04-15 21:49:07 1043

原创没有算法大佬，都是草台班子

大家都经历过高考，高考成绩好说明你高中花的时间多，刻苦努力，考的不好说明高中有点懒散，不够刻苦，但无论如何，你都学了，而且坚持学了高中3年的时间。去年我业余时间，花了 3 个月开源了一个入门 AI 视觉的项目，面向的是AI小白同学们，就是希望可以帮助想要从零学习 AI 的同学快速入门。所以，小白从零学习 AI 也不要怕，学到及格线就可以去工作，学习不难，还是那句话，难在入行，难在第一份工作的选择。这位小伙伴则相反，从心理学的双非院校毕业后，就直接去做了AI算法，虽然是小公司，但我觉得毕竟是已经入行了。

2024-04-15 21:46:19 771

原创面试字节被挂了

减少参数量可以这么理解：在输出相同特征图的前提下，将一个普通的卷积，替换成一个1x1的卷积加上另一个卷积，先进行降维，然后计算，如此一来整体的计算量要比普通卷积少。由于1x1卷积不存在长宽方向的像素融合，所有的计算都是通道之间的交叉计算，因此，可以更好的完成通道间的融合，而通道代表的是特征，因此可以更好的实现特征融合。上可以看出，卷积核的个数就是卷积输出的通道数。这是因为1x1的卷积，卷积核长宽尺寸都是 1，在计算的过程中，不存在长、宽方向像素之间的融合计算(乘累加计算)，而仅仅存在通道之间的融合计算。

2024-04-07 22:37:15 4652 1

串口COM口数据转发软件

空空如也