深度学习
断腿小胖子
多多交流学习
展开
-
最大似然估计和最大后验概率估计的理解与求解
1. 最大似然估计的理解最大似然估计(Maximum likelihood estimation, 简称MLE)和最大后验概率估计(Maximum a posteriori estimation, 简称MAP)是很常用的两种参数估计方法,如果不理解这两种方法的思路,很容易弄混它们。下文将详细说明MLE和MAP的思路与区别。但别急,我们先从概率和统计的区别讲起。概率和统计是一个东西...原创 2020-05-12 16:55:15 · 5433 阅读 · 0 评论 -
常用激活函数比较
常用激活函数比较本文结构:什么是激活函数为什么要用都有什么sigmoid ,ReLU, softmax 的比较如何选择1. 什么是激活函数如下图,在神经元中,输入的 inputs 通过加权,求和后,还被作用了一个函数,这个函数就是激活函数 Activation Function。2. 为什么要用如果不用激励函数,每一层输出都是上层转载 2017-05-10 15:27:25 · 16599 阅读 · 1 评论 -
Logistic函数与Logistic回归
Logistic函数与Logistic回归Logistic函数的表示形式如下:它的函数图像如下,由于函数图像很像一个“S”型,所以该函数又叫 sigmoid 函数。满足的性质:1.对称性,关于(0,0.5)中心对称2.逻辑斯谛方程即微分方程最早logistic函数是皮埃尔·弗朗索瓦·韦吕勒在1844或1845年转载 2017-05-10 16:46:30 · 6397 阅读 · 0 评论 -
自动编码器
自动编码器Deep Learning最简单的一种方法是利用人工神经网络的特点,人工神经网络(ANN)本身就是具有层次结构的系统,如果给定一个神经网络,我们假设其输出与输入是相同的,然后训练调整其参数,得到每一层中的权重。自然地,我们就得到了输入I的几种不同表示(每一层代表一种表示),这些表示就是特征。自动编码器就是一种尽可能复现输入信号的神经网络。为了实现这种复现,自动编码器就转载 2017-05-24 09:32:53 · 19344 阅读 · 3 评论