从0开始AIGC
文章平均质量分 95
Way_X
做自己喜欢的事,爱自己深爱的人。
How to contact me: [email protected]
展开
-
[从0开始AIGC][Transformer相关]:算法的时间和空间复杂度
算法是指用来操作数据、解决程序问题的一组方法。对于同一个问题,使用不同的算法,也许最终得到的结果是一样的,但是过程中消耗的资源和时间却会有很大区别。那么如何衡量不同算法之间的优劣?主要还是从算法所占用的时间和空间两个维度去考量。原创 2024-04-09 21:48:42 · 1073 阅读 · 0 评论 -
[从0开始AIGC]: 如何区分并记住常见的几种 Normalization 算法
这里再重复一下上文的类比。如果把x∈RN×C×H×Wx∈RN×C×H×W类比为一摞书,这摞书总共有 N 本,每本有 C 页,每页有 H 行,每行 W 个字符。计算均值时BN 相当于把这些书按页码一一对应地加起来(例如:第1本书第36页,加第2本书第36页…),再除以每个页码下的字符总数:N×H×W,因此可以把 BN 看成求“平均书”的操作(注意这个“平均书”每页只有一个字)原创 2024-04-09 21:40:50 · 867 阅读 · 0 评论