个人微信公众号：网络安全历险记

在本情况中，所有元素都被丢弃# 在本情况中，所有元素都被保留return X我们可以将暂退法应用于每个隐藏层的输出（在激活函数之后）， 并且可以为每一层分别设置暂退概率： 常见的技巧是在靠近输入层的地方设置较低的暂退概率。下面的模型将第一个和第二个隐藏层的暂退概率分别设置为0.2和0.5， 并且暂退法只在训练期间有效。# 只有在训练模型时才使用dropout# 在第一个全连接层之后添加一个dropout层# 在第二个全连接层之后添加一个dropout层return out。

return X_exp / partition # 这里应用了广播机制分类模型常用交叉熵损失lr = 0.1"""小批量随机梯度下降""""""计算预测正确的数量""""""在n个变量上累加""""""计算在指定数据集上模型的精度"""net.eval() # 将模型设置为评估模式metric = Accumulator(2) # 正确预测数、预测总数"""训练模型一个迭代周期（定义见第3章）"""# 将模型设置为训练模式# 训练损失总和、训练准确度总和、样本数。