自组织映射神经网络（SOM） 自组织映射神经网络（Self-Organizing Map，SOM）是无监督学习方法中一类重要方法，可以用作聚类、高维可视化、数据压缩、特征提取等多种用途，其融入了大量人脑神经元的信号处理机制，有着独特的结构特点。...
为什么用生长型神经气体网络（GNG）？ 上世纪 90 年代，人工神经网络研究人员得出了一个结论：有必要为那些缺少网络层固定拓扑特征的运算机制，开发一个新的类。也就是说，人工神经在特征空间内的数量和布置并不会事先指定，而是在学习此类模型的过程中、根据输入数据的特性来计算，独立调节也与其适应。...
【论文解读】前向可兼容的少样本增量学习 本文关注的问题是少样本类增量学习（Few Shot Class Incremetal Learning, FSCIL）当前主流的方法基本上都是在学习新类的同时不忘记旧类，侧重于对于旧类的遗忘问题，本文中称这种为后向兼容性。
【论文解读】vCLIMB: 一种新颖的视频类增量学习基准 持续学习（CL）在视频域中探讨了不足。存在很少的工作包含在任务中划分不平衡的类分布，或者在不合适的数据集中研究问题。我们介绍了vCLIMB，这是一个新颖的视频持续学习基准。
深度学习中的优化算法如何理解--SGD 文章目录1. SGD算法学了很久的深度学习，忽然感觉对于知识的摄入只是填鸭式学习，少了主动思考，因此准备就简单问题的理解出发对已经学习知识做系统整理。提到优化算法那么就要涉及到优化问题，简单介绍一下什么是凸集、凸函数、凸优化。凸集：集合中任意两个样本连接后的线段仍然属于集合，那么就是凸集。凸函数：两个自变量的函数值求和总是大于等于自变量中值的函数值。凸优化：给定变量属于凸集，目标函数是凸函数，那么求解这一问题就是属于凸优化问题。（但是深度学习中大多数都是非凸问题…，简单理解，多多指正）1.
【论文精读】基于骨架行为识别（一）—STGCN 论文链接文章目录1. 摘要2. 介绍3. 相关工作4. 时空图卷积5. 实验6. 总结1. 摘要2. 介绍3. 相关工作4. 时空图卷积5. 实验6. 总结
【论文精读】一类分类器（一）—DSVDD 文章目录摘要1.介绍2.相关工作3.Deep SVDD3.1 深度支持向量描述器目标摘要尽管深度学习在许多机器学习问题上取得了巨大的进步，但异常检测的深度学习方法相对缺乏。那些存在的方法包括训练网络来执行异常检测以外的任务，即生成模型或压缩，它们反过来适用于异常检测，他们没有训练基于异常检测的目标。在这篇文章中介绍一种新的异常检测方法-DSVDD，训练是基于异常检测目标的。对深层体制的适应需要我们的神经网络和训练过程满足某些性质，这是我们在理论上证明的。我们在MNIST和CIFAR-10(图像基准数据集
西瓜书知识总结（第六章） 支持向量机基本概念理解支持向量：距离超平面最近的几个训练样本点间隔：两个异类支持向量到超平面的距离之和支持向量机基本型对偶问题求解支持向量机问题就是求取最大间隔的 www 和 bbb ，即得到超平面使用拉格朗日乘子法可得到其“对偶问题”，拉格朗日函数如下：为什么通过对偶问题求解？KKT条件？软间隔基本原理：支持向量回归基本理解：算法原理：基本梳理，未完待续…参考链接：《西瓜书》、支持向量机、软间隔和支持向量回归...
西瓜书知识总结（第五章） 神经网络M-P神经元单个M-P神经元：感知机（sgn作为激活函数）、对数几率回归（sigmoid作激活函数）多个M-P神经元：神经网络感知机模型：激活函数为sgn（阶跃函数）的神经元从几何角度来说，给定一个线性可分的数据集T，感知机的学习目标是求得能对数据集T中的正负样本完全正确划分的超平面，其中 wTx−θ\pmb{w}^{\mathrm{T}}\pmb{x}-\thetawwwTxxx−θ 即为超平面方程感知机学习策略：随机初始化 w,b\pmb{w}, bwww,b，将全体训练样本代入
西瓜书知识总结（第四章） 决策树系列之前啃西瓜书，发现理论太深，因此换了个角度作知识总结。决策树是什么？决策树是采用树形结构用于推理判断最后实现分类的算法。信息熵是什么？信息熵是度量样本集合纯度最常见的一种指标，Ent(D)=−∑k=1∣y∣pklog2pkEnt(D)=-\sum_{k=1}^{|y|}p_k\log_2{p_k}Ent(D)=−∑k=1∣y∣pklog2pk 即样本D的信息熵，pkp_kpk是样本所占比例，结论是：信息熵值越小，纯度越高基尼指数是什么？基尼指数反映了从数据集D中随机抽取两
日常问题：L1范数和L2范数在机器学习中的作用？ L1范数就是向量元素的绝对值之和L2范数就是向量元素的各元素平方和再开根号作为损失函数，L1损失和L2损失解释：损失函数即真实值与预测值之间的差异性度量，L1损失就是所有样本真实与预测值的差值的绝对值之和，L2损失即所有样本真实与预测值的差值的绝对值的平方和优缺点分析：L2损失一定有一条最优的预测线，L1损失可能存在多个解；L1损失对异常值不敏感，鲁棒性更强正则化技术使用到L1正则和L2正则解释：正则化技术就是为了防止过拟合，所以限制了学习的权重，L1正则即权值的绝对值之和，L2正则即
西瓜书知识总结（第三章） 线性模型机器学习三要素：模型、策略、算法。1.基本形式什么是线性模型？通过属性的线性组合构成预测函数，该函数就是属于线性模型f(x)=w1x1+w2x2+…+wdxd+bf(\pmb{x}) = w_1x_1+w_2x_2+\ldots+ w_dx_d+bf(xxx)=w1x1+w2x2+…+wdxd+b向量形式是 f(x)=wTx+bf(x)=\pmb{w}^{\mathrm{T}}\pmb{x}+bf(x)=wwwTxxx+b，这里的 w\pmb{w}www 和 b\pmb{b
西瓜书知识总结（第一、二章） 西瓜书知识总结（第一、二章）第一章基本术语：属性(attribute)或者特征(feature)构成属性空间(attribute space)、样本空间(sample space)或输入空间d维样本空间 XXX，d即属性的个数YYY是标记空间(label space)或输出空间机器学习大致分为监督学习(supervised learning)与非监督学习(unsupervised learning)学得模型适用于新样本的能力，称为"泛化能力"假设空间，我的理解就是样本属性所有可能的组合集合空
关注
