qq_52209929的博客

计算图非标量调用backward()求梯度x = torch.arange(4.0)x.requires_grad = Truey = x * x方法1：通过y.sum().backward()调用反向传播y.sum().backward()print(x.grad) sum为y.sum()把x带入得 x.grad为(0,2,4,8)方法2：传入shape和x一样的ones参数y.backward(torch.ones(x.shape))...

熵(entropy)：无损编码事件信息的最小平均编码长度对每个可能性事件进行编码，计算他们的编码长度，最短的为熵类似哈夫曼树，编码不能有二义性： 例：四种事件的编码分别为 10、11、 1、110，前两种编码和后两种编码都可组成1110的编码段编码方式 猫(50%) 狗(25%) 猪(12.5%) 兔(12.5%) 编码长度 方法1 10 110 0 111 2x50%+3x25%+1x12.5%+3x12.5%=...

以最简单的神经网络为例损失函数 损失函数为通过随机设定的w1和w2 得出的y的近似值与真实y的差距随机梯度下降（SGD）​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​​通过此公式不断更新w使w靠近真实值为当前误差关于w的梯度，梯度方向为数值(Loss)增长最快的方向所以我们沿...

创建一个新的Ubuntu系统# 打开终端sudo apt update //更新aptsudo apt install build-enssential //提供编译程序必要的软件包列表sudo apt install python3.8 //安装python3.8，选项全yeswegt miniconda相应版本的下载地址# 安装完成后最后一行显示Miniconda3。。。。Linux-x86_64.sh savedbash Miniconda3。。。。Linux-x86_64.

使用列向量（若x、y为向量）和分子布局（分子不变，分母转置）