机器学习
Assassintt
这个作者很懒,什么都没留下…
展开
-
线性降维
这节列出学习课程 线性降维中遇到的一些 问题. 整理下线代基本概念 .无监督学习 线性降维文章目录基本概念0. 正交向量 orthonormal vector1. 正交矩阵2. 协方差矩阵 covariance matrix3. 特征值和特征向量 eigenvalue eigenvector4. 拉格朗日乘子 agrange multiplier5. SVD 奇异值分解6. PCA 主...原创 2019-10-28 17:05:30 · 455 阅读 · 0 评论 -
Ensemble
集成学习方法bagging,boosting,stacking Bagging bootstrap aggregation的简写。 使用场景:model 很复杂,担心会overfit,减低variance. Bagging是有放回的抽样,并且每个自己的样本数量必须和原样本数量一致,允许子集存在重复数据 使用__多数投票__、__求均值__的方式来统计最终分类结果。 ...原创 2019-09-05 16:36:51 · 290 阅读 · 0 评论 -
Attcak and Defense
Atack对样本进行攻击。使分类失败改变x 生成新的图片 1.正常的training,Loss越小越好,使y接近正确结果。 2.无目标的攻击, 使loss越大越好。 -C 3. 有目标的攻击, 是 -C越大, 还要使目标越接近y的错值。 4. x' 和x0 距离d 小于等于一个值, 自定义。 dis...原创 2019-09-09 10:42:26 · 262 阅读 · 0 评论 -
Anomaly Detection
异常侦测a set of training data x1 , x2 , ⋯ , xN找到一个function detecting x是否是异常的数据Applications 应用• Fraud Detection 银行盗刷检测• Training data: 正常刷卡行為, x: 盜刷?• Ref: https://www.kaggle.com/ntnu-testimon/pays...原创 2019-09-10 18:08:02 · 291 阅读 · 0 评论 -
Transfer Learning 迁移学习
什么是迁移学习迁移是属于机器学习的一种研究领域。它专注于存储已有问题的解决模型,并将其利用在其他不同但相关问题上。比如说,用来辨识汽车的知识(或者是模型)也可以被用来提升识别卡车的能力。计算机领域的迁移学习和心理学常常提到的学习迁移在概念上有一定关系,但是两个领域在学术上的关系非常有限。wiki迁移学习的可行性一定基础上建立在人类的行为上,因为人类是不断在做迁移学习的。在有一些不相關...原创 2019-09-25 16:17:36 · 498 阅读 · 0 评论 -
Life Long Learning LLL
Life Long Learning LLL能否每次都训练同一个神经网络, 而不是每个task 一个 神经网络文章目录终身学习需要解决3个问题1. 避免知识遗忘, 但不是妥协 Knowledge Retention图像识别的例子答题例子Elastic Weight Consolidation(EWC )generating data2. 知识迁移 Knowledge Transfereval...原创 2019-09-26 16:19:06 · 419 阅读 · 0 评论 -
Gated RNN & Sequence Generation
文章目录• RNN with Gated Mechanism 门控制机制的RNNLSTMGRU• Sequence Generation• Conditional Sequence Generation• Tips for Generation• RNN with Gated Mechanism 门控制机制的RNN有记忆的function, 输入h 为初始的一个vector, 反复使用一...原创 2019-10-11 15:03:40 · 458 阅读 · 0 评论