![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
公开课
wutao02
算法工程师
展开
-
神经网络介绍--数据预处理、权重初始化及正则化
目录目录数据和模型的处理数据预处理减去平均值规范化(normalization)PCA和白化(whiten)常见的陷阱权重初始化陷阱:全零初始化使用小随机数初始化用1 / sqrt(n)标准化方差稀疏初始化初始化偏差批量标准化正则化L2正则化L1正则化最大范数约束Dropout损失函数分类问题属性分类回归结构化预测小结...翻译 2018-05-19 12:34:07 · 8515 阅读 · 2 评论 -
神经网络简介--激活函数、网络架构、生物模型解释
目录目录概述神经元模型与生物学的联系单神经元作为线性分类器常用的激活函数神经网络架构分层组织前馈计算示例神经网络的表示能力设置图层数量及其大小概要引用概述无需类比大脑的机制我们也能介绍神经网络。本节我们通过线性分类器,通过公式s=Wxs=Wxs=Wx(其中WWW是一个矩阵,xxx是输入的列向量,包含图片的所有像素。对于CIFAR-10数据来...翻译 2018-05-16 18:57:41 · 2281 阅读 · 0 评论