- 博客(6)
- 收藏
- 关注
转载 深度学习-训练神经网络DNN的要点
1. 选择合适的损失函数典型的损失函数有平方误差损失函数和交叉熵损失函数交叉熵损失函数:不同的损失函数的选择会对训练结果产生影响2. mini-batch和epoch所谓mini-batch是把我们原来的数据分成了不重叠的若干个小的数据块,然后在每一个epoch中分别运行每一个mini-batch,epoch的次数和mini-batch的大小我们自行设定进行mini-b...
2020-04-29 22:39:30
972
转载 【机器学习】降维——PCA(非常详细)
PCA(Principal Component Analysis) 是一种常见的数据分析方式,常用于高维数据的降维,可用于提取数据的主要特征分量。PCA 的数学推导可以从最大可分型和最大重构性两方面进行,前者的优化条件为划分后方差最大,后者的优化条件为点到划分平面距离最小。由于基于最大重构性的 PCA 其与 LDA(线性判别法)的数学推导有异曲同工之处,所以我只从最大可分性进行证明,...
2020-04-28 15:02:34
2632
转载 马氏距离由浅入深的理解
1. 简单理解协方差的物理意义2. 协方差矩阵中的元素对分布的影响3. 对马氏距离的理解1. 简单理解协方差的物理意义在概率论中,两个随机变量 X 与 Y 之间相互关系,大致有下列3种情况:正相关当 X, Y 的联合分布像上图那样时,我们可以看出,大致上有: X 越大 Y 也越大, X 越小 Y 也越小,这种情况,我们称为“正相关”。负相关当X, Y 的联合分...
2020-04-16 15:25:46
2026
原创 人工神经网络的基本特征有哪些?
由大量处理单元互联组成的非线性、自适应信息处理系统。它是在现代神经科学研究成果的基础上提出的,试图通过模拟大脑神经网络处理、记忆信息的方式进行信息处理。人工神经网络具有四个基本特征:(1)非线性 非线性关系是自然界的普遍特性。大脑的智慧就是一种非线性现象。人工神经元处于激活或抑制二种不同的状态,这种行为在数学上表现为一种非线性关系。具有阈值的神经元构成的网络具有更好的性能,可以提高容错性和...
2020-04-05 20:25:26
6265
原创 矩阵的特征值与特征向量 求解
矩阵特征值定义1:设A是n阶矩阵,如果数和n维非零列向量使关系式成立,则称这样的数成为方阵A的特征值,非零向量成为A对应于特征值的特征向量。说明:1、特征向量,特征值问题是对方阵而言的。 2、n阶方阵A的特征值,就是使齐次线性方程组有非零解的值,即满足方程的都是矩阵A的特征值。 3、定义2:A为n阶矩阵,称为A的特征矩阵,其行列式为的n次多项式,称为A的特征多项式...
2020-02-12 21:01:51
20281
转载 深度 | 周志华:“深”为什么重要,以及还有什么深的网络
8 月 10 日至 16 日,IJCAI 2019 在中国澳门隆重召开。14 日下午,南京大学周志华教授进行特邀大会演讲,演讲主题是《Deep Learning: Why deep and is it only doable for neural networks?》。在演讲中,周志华教授从自己的角度解读了深度神经网络之所以获得成功的本质因素,以及如何在兼顾这些因素的同时,找到神经网络之外的其它的...
2019-11-29 22:06:36
215
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人