- 博客(2)
- 收藏
- 关注
RSS订阅原创 循环神经网络、注意力机制、Seq2Seq、Transformer与卷积神经网络（打卡2）
一、过拟合和欠拟合 接下来，我们将探究模型训练中经常出现的两类典型问题： 一类是模型无法得到较低的训练误差，我们将这一现象称作欠拟合（underfitting）； 另一类是模型的训练误差远小于它在测试数据集上的误差，我们称该现象为过拟合（overfitting）。 在实践中，我们要尽可能同时应对欠拟合和过拟合。虽然有很多因素可能导致这两种拟合问题，在这里我们重点讨论两个因素：模型复杂度和训练...
2020-02-19 19:56:27
2559
原创 线性回归、多层感知机、文本预处理、循环神经网络学习笔记（打卡1）
一、线性回归 1.线性回归的数学假设：假设输入的x和y是线性关系，输入的x和y满足，其中e为误差，满足均值为0，方差为某一确定值的正太分布 2.线性回归的建模： 3.损失函数：简单的损失函数可以选择为平方损失 二、Softmax 对于神经网络中，直接使用输出层的输出有两个问题： 一方面，由于输出层的输出值的范围不确定，我们难以直观上判断这些值的意义。例如，刚才举的例子中的输出...
2020-02-14 18:49:40
488
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人