深度学习
文章平均质量分 77
小何才露尖尖角
任何时候,我对世界总有一个主观的先验判断,但是这个判断会随着世界的真实变化而随机修正,我对世界永远保持开放的态度--Thomas Bayes
展开
-
Amphion tts(Text to Speech) 语音合成
强烈推荐使用带 GPU 的 Ubuntu 或 Centos 系统运行,可以租一个比较便宜的机器实例运行原创 2023-12-29 16:55:00 · 721 阅读 · 0 评论 -
深度学习术语:词嵌入 Word Embedding
word2vec 有两种方法:CBOW (Continuous Bag-Of-Words) 和 Skip-gramSkip-gram方法就是取句子中固定单词数量(如 5),使用中间单词去预测周围 4 个单词。输入是 one-hot 向量,经过隐层线性层,随后经过softmax层(结果值为正,加起来为 1)输出预测结果。中间的隐藏层权重即为嵌入矩阵embedding matrix,也即查找表。嵌入矩阵的大小为单词总数词向量维度,假如单词总数为 10000,并且隐藏神经元为 300。翻译 2023-11-21 22:01:55 · 98 阅读 · 0 评论 -
colab 中 gpu 可用,但torch.cuda.is_available() 为 False
colab 中 gpu 可用,但torch.cuda.is_available() 为 False原创 2023-01-04 11:28:30 · 879 阅读 · 0 评论 -
Batch Norm 与 Layer Norm
Batch Normalization 对每个特征计算均值和方差,随后归一化。Layer Normalization 对每个样本计算均值和方差,随后归一化。原创 2022-12-16 20:00:05 · 1010 阅读 · 0 评论 -
深度学习中的数学-概率论
深度学习中的数学-概率论1 随机变量2 概率分布2.1 离散变量2.2 连续变量3 边缘概率4 条件概率4.1 计算公式4.2 条件概率的链式法则5 独立性和条件独立性6 期望、方差和协方差7 常用概率分布7.1 高斯分布参考1 随机变量一个随机变量只是对可能的状态的描述;它必须伴随着一个概率分布来指定每个状态的可能性随机变量可以是离散的或者连续的。离散随机变量拥有有限或者可数无限多的状态。注意这些状态不一定非要是整数;它们也可能只是一些被命名的状态而没有数值。连续随机变量伴随着实数值2 概率分布原创 2022-04-06 21:24:55 · 1738 阅读 · 0 评论 -
深度学习中的数学-线性代数
深度学习中的数学-线性代数1 矩阵和向量相乘1.1 标准乘积1.2 元素对应乘积2 线性相关和生成子空间3 范数4 特征分解推荐书目参考1 矩阵和向量相乘1.1 标准乘积如果矩阵 A 的形状是 m × n,矩阵 B 的形状是 n × p,那么矩阵C 的形状是 m×p。C=ABC = ABC=AB具体地,该乘法操作定义为Ci,j=/C_{i,j}=/Ci,j=/可以理解为 A 中第 i 行与 B 中第 j 列的点积1.2 元素对应乘积两个矩阵的标准乘积不是指两个矩阵中对应元素的乘积。不过原创 2022-04-05 21:58:31 · 1836 阅读 · 0 评论 -
理解梯度下降法
导函数可以理解为:当自变量 x 有一个微小的增量变化 h, 函数的增量变化为 f′(x)hf^{'}(x)hf′(x)h。也可以将导数理解为一个控制因子,当 x 变化 h 时,函数值变化=导数∗h函数值变化=导数*h函数值变化=导数∗h原创 2022-03-13 17:03:08 · 1295 阅读 · 0 评论 -
误差反向传播中的链式求导法则
误差反向传播中的链式求导法则1 复合函数和可微性2 单变量函数链式法则3 多变量函数链式法则3.1 多变量函数求导3.2 多变量函数链式法则参考1 复合函数和可微性有函数 y=f(u)y= f(u)y=f(u) , 同时有另一个函数 u=g(x)u= g(x)u=g(x), 当 y 表示为 x 的函数时,可以变为 y=f(g(x))y= f(g(x))y=f(g(x)) 的嵌套结构。嵌套结构 f(g(x))f(g(x))f(g(x)) 称为 f(u)f(u)f(u) 和 g(x)g(x)g(x) 的原创 2022-03-12 19:45:04 · 2161 阅读 · 0 评论 -
利用Keras对训练好的模型结构进行可视化
利用Keras对训练号的模型结构进行可视化一、环境的安装二、结构可视化一、环境的安装在进行可视化之前需要安装一些需要用到的包安装包请参考博客: link二、结构可视化编辑代码,运行。下面是对已经训练好的U-Net模型进行可视化from keras.models import load_modelfrom keras.utils import plot_modeldef main(...原创 2019-05-20 17:32:13 · 2129 阅读 · 0 评论 -
深度学习(一)环境配置-CUDA安装
Anaconda3-5.2.0+Cuda10.0+cudnn10.0资源下载链接:https://pan.baidu.com/s/11GD3XiFXlfHeCzKmb72FnA提取码:8yn0CUDA安装步骤一、查看自己的显卡是否支持CUDA:查看网址https://developer.nvidia.com/cuda-gpus二、首先检查显卡驱动是否安装完整,检查方式:右击开...原创 2019-03-03 13:34:28 · 3564 阅读 · 1 评论