artistkeepmonkey的博客

背景电脑原来是windows，现在装为纯Ubuntu电脑型号 dell的一个工作站 显卡rtx3090镜像下载 https://ubuntu.com/启动盘制作 UltraISO 工具http://cn.ultraiso.net/xiazai.html 适用即可U盘需要是fat32文件系统格式，不是的可以提前格式化一下，注意提前备份好U盘的资料第一步 打开镜像文件第二步 写入硬盘镜像写入新的驱动器引导扇区完成后，点击下面的写入按钮，等待...

首先理解y=max(a,b) 的求导其实就是y由大的量决定，如果a大，那就相当于 y=a ，求导就是1给大家上个pytorch代码，可以调试下看看。def test_maxpooling(): import torch features=torch.FloatTensor([ [1, 2, 6, 7,], [3, 4, 5, 8,], [13, 16, 9, 10,], [14, 15, 12, 11] ])

英特尔发布的开源框架，用于深度学习的推理优化与模型部署。openvino具体使用方法还是看官方文档比较好https://docs.openvino.ai/支持多种框架：tensorflow caffe pytorch mxnet keras onnx特点：对于因特尔的cpu加速效果最好使用过程参考下图...

2015年batch normalization提出 2016年的layer normalization这是在论文中截的图，箭头指向的青色线代表加了layer normalization的模型，收敛速度最快。layer normalization第二个优点，batch数据的多个样本可以是长度不同的，input_data_shape=B * C * dim 虽然每个样本通道维度都是C， 但是如果有的样本没有C这么长，是经过padding技术增加成统一长度的呢？具体来讲，多个句子作为.

可以，但不推荐多卡训练的几种方式：1网络分区，例如将生成器、判别器放到不同的GPU上，能训练更大的网络，速度上没有提升。2按层分区，多个GPU计算不同的通道，复杂，不推荐。3数据并行，最常用的，很通用，一个batch数据分到多个GPU上计算。...

使用pytorch框架写深度学习程序，总是会对数据进行各种各样的操作，本文从给出了实际可运行的数据操作代码，tensor创建，tensor形状，两个tensor运算，tensor与numpy数据的互相转换。代码由许多的test组成，都是单独可运行的。程序入口在下面的main。import torch#基本属性def test_base(): t_data=torch.zeros((3,4)) help(torch.numel) print(t_data.shape)#形状

autoregressiveadj. 自回归的eg: autoregressive model自回归的模型autoregressive process自回归的过程adv. 自回归地eg: autoregressive predicted 自回归地预测算法含义一个一个token地预测出来，预测第n个token会根据前n-1个token数据作用这个过程可以加强token内部联系地学习，算是一种先验...

搬来了大牛的博客点击直接前往https://www.yuque.com/angsweet/machine-learning/jian-jie配一张大牛的思维导图具体内容点进去都能看到数学、机器学习、语言、算法、深度学习、书籍推荐，东西很多

简介fid是一个非常常用的评估图像生成质量的指标图像生成的论文中经常会用到。fid是一种度量两个图片数据集相似度的方法，我们生成的图片与真实图片越相似越好。相似度高对应的是fid值小。安装想进一步学的的伙伴可以从理论出发，然后自己实现这个fid的计算过程，笔者这里直接搬运了。原始的fid是一个tensorflow实现 https://github.com/bioinf-jku/TTUR笔者使用的是pytorch框架，所以使用https://github.com/mseitzer/pyt

git clone https://github.com/NVIDIA/apex.gitcd apexpython setup.py install --cpp_ext --cuda_ext

深度学习-激活函数激活函数分类介绍relugelu激活函数分类介绍reluf(x)=max(0,x)gelu