花书
夜雨飘零1
他朝若是同淋雪,此生也算共白头!
展开
-
《深度学习》学习笔记三——数值计算
目录 目录 上溢和下溢 基于梯度的优化方法 导数 偏导数 约束优化 参考资料 上溢和下溢 下溢(underflow)是一种极具毁灭性的舍入误差.当接近零的数被四舍五入为零时发生下溢 上溢(overflow)是一种极具破坏力的数值错误形式.当大量级的数被近似为∞∞\infty或者−∞−∞-\infty时发生上溢,进一步的运算通常会导致这些无限值变成非数字. softmax...原创 2018-01-15 23:06:13 · 1953 阅读 · 1 评论 -
《深度学习》学习笔记二——概率论
目录 目录 随机变量 概率分布 边缘概率 条件概率 独立性和条件独立性 数学期望 方差 协方差 协方差矩阵 常用的概率分布 Bernoulli 分布 Multinoulli 分布 高斯分布 常用函数 logistic sigmoid函数 softplus 函数 参考资料 随机变量 随机变量(random variable)是可以随机地取不同值的变量.随机变量是原创 2018-01-14 20:11:16 · 2515 阅读 · 1 评论 -
《深度学习》学习笔记一——线性代数
目录 目录 标量向量矩阵和张量 Python代码实现 转置 Python代码实现 矩阵的运算 一 矩阵的加法 Python代码实现 二 矩阵的乘法 Python代码实现 单位矩阵和逆矩阵 Python代码实现 线性相关和生成子空间 范数 参考资料 标量、向量、矩阵和张量 标量(scalar):一个标量就是一个单独的数,它不同与线性代数中研究其他大部分原创 2018-01-13 20:08:11 · 2317 阅读 · 0 评论