- 博客(4)
- 资源 (3)
- 收藏
- 关注
原创 Tensorflow在不同训练场景下读取和使用不同格式pretrained model的方法
不同应用场景分析与示例Tensorflow读取预训练模型是模型训练中常见的操作,通常的应用的场景包括:1)训练中断后需要重新开始,将保存之前的checkpoint(包括.data .meta .index checkpoint这四个文件),然后重新加载模型,从上次断点处继续训练或预测。实现方法如下:如果代码中已经构建好了网络结构图with tf.Session() as s
2018-01-29 22:25:22 8007 6
原创 Batch normalization及其在tensorflow中的实现
Batch normalization(BN)BN是对输入的特征图进行标准化的操作,其公式为: x^=γ(x−μ)/σ2+ϵ−−−−−√+β\hat{x}=\gamma(x-\mu)/\sqrt{\sigma^{2}+\epsilon}+\betaxx - 原输入x^\hat{x} - 标准化后的输入μ\mu - 一个batch中的均值 σ2\sigma^{2} - 一个ba
2018-01-13 22:56:25 3279
原创 Logistic 回归的三个视角(极大似然估计/熵/形式化损失函数)
介绍Logistic的基本形式:需要明确的概念:逻辑回归解决的不是回归的问题,而是分类的问题逻辑回归是线性模型,其中sigmoid函数只是非线性激活函数极大似然视角下的Logistic极大似然与伯努利分布假设 x,y∼B(±1,p)x, \, y \sim B(\pm1,p)考虑一个二分类问题:f(x)→{+1,−1}f(x)\rightarrow \
2018-01-04 16:20:17 3482
Artificial Intelligence for Humans, Volume 3 - Jeff Heaton
2016-12-15
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人