花书
夜雨飘零1
他朝若是同淋雪,此生也算共白头!
展开
-
《深度学习》学习笔记三——数值计算
目录目录上溢和下溢基于梯度的优化方法导数偏导数约束优化参考资料上溢和下溢下溢(underflow)是一种极具毁灭性的舍入误差.当接近零的数被四舍五入为零时发生下溢上溢(overflow)是一种极具破坏力的数值错误形式.当大量级的数被近似为∞∞\infty或者−∞−∞-\infty时发生上溢,进一步的运算通常会导致这些无限值变成非数字.softmax...原创 2018-01-15 23:06:13 · 1974 阅读 · 1 评论 -
《深度学习》学习笔记二——概率论
目录目录随机变量概率分布边缘概率条件概率独立性和条件独立性数学期望方差协方差协方差矩阵常用的概率分布Bernoulli 分布Multinoulli 分布高斯分布常用函数logistic sigmoid函数softplus 函数参考资料随机变量随机变量(random variable)是可以随机地取不同值的变量.随机变量是原创 2018-01-14 20:11:16 · 2550 阅读 · 1 评论 -
《深度学习》学习笔记一——线性代数
目录目录标量向量矩阵和张量Python代码实现转置Python代码实现矩阵的运算一 矩阵的加法Python代码实现二 矩阵的乘法Python代码实现单位矩阵和逆矩阵Python代码实现线性相关和生成子空间范数参考资料标量、向量、矩阵和张量标量(scalar):一个标量就是一个单独的数,它不同与线性代数中研究其他大部分原创 2018-01-13 20:08:11 · 2343 阅读 · 0 评论