- 博客(4)
- 收藏
- 关注
RSS订阅原创 lyb深度学习学习笔记第四章：机器学习概览
四、机器学习概览 本章节为机器学习相关的基础知识和概念 一、基本概念 基本概念： 样本、特征 训练集、测试集 泛化、训练误差、测试误差、 欠拟合、过拟、非参数模型、贝叶斯误差 正则化、权重衰减、正则化项 超参数、验证集、交叉验证（k-fold） 点估计、bias、样本均值（无偏）、样本方差（有偏和无偏）、均值标准差 偏差和方差， MSE=Bias2+Var2MSE = Bias^2+ Var...
2020-04-02 08:21:49
138
原创 lyb深度学习学习笔记第三章：数值计算
三、数值计算 上溢出和下溢出，eg. softmax(x)i=exi∑ejxsoftmax(x)_i = \frac{e^{x_i}}{\sum e^x_j}softmax(x)i=∑ejxexi 可以通过z=x−max(x)z = x-max(x)z=x−max(x)来解决上下溢出问题 矩阵过于敏感：最大最小特征值商的绝对值越多，矩阵求逆对误差越敏感 梯度下降：沿着梯度反方向下降x′=x...
2020-03-31 02:45:54
186
原创 lyb深度学习学习笔记第二章：概率统计和信息论
二. 概率统计和信息论 相关概念： 随机变量 离散型随机变量 概率质量函数PMF，边缘概率密度MPD 连续性随机变量 概率密度函数PDF，边缘概率密度MPD，概率分布函数CDF 条件概率，连式法则 相互独立，条件独立 期望、方差、协方差、相关系数 全概公式、贝叶斯公式 零测集、几乎处处、 常用概率分布 Bernoulli分布、Mutinoulli分布 正态分布:N(x;μ,σ2)=...
2020-03-27 09:21:07
183
原创 lyb深度学习学习笔记第一章：线性代数
准备全面从头复习一遍深度学习的内 一. 线性代数 相关概念： 标量、向量、矩阵、张量 转置、广播、点乘、乘积 单位向量、正交、标准正交 单位矩阵、对角矩阵、对称矩阵、正交矩阵、方阵、奇异阵 线性空间、生成子空间、线性无关 范数、最大范数、Frobenius范数（矩阵L2） 特征值分解 Av=λvAv = \lambda vAv=λv vvv为特征向量，λ\lambdaλ为对应的特征值 A=Vd...
2020-03-26 01:33:24
299
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人