2017年09月_TensorSense

12月 11月 09月 08月 07月 06月 05月 04月 01月

原创 Resnet-18-训练实验-warm up操作

实验数据：cat-dog 二分类，训练集：19871 验证集：3975 实验模型：resnet-18 batchsize：128*2 （一个K80吃128张图片）存在的问题：对训练集 accuracy可达0.99 loss=1e-2 -3，然而验证集 accuracy 0.5，loss 很高，试了多个初始学习率（0.1 — 0.0001）都不行解决上述问题：采取warm up方法，对上述

2017-09-07 17:45:51 27331 8

原创【机器学习－西瓜书】九、K-means;聚类算法划分

推荐阅读：原型聚类；聚类划分；K-means9.4 原型聚类原型聚类亦称基于原型聚类（prototype-based clustering），原型指的是样本空间中具有代表性的点。基于原型的定义是每个对象到该簇的原型的距离比到其他簇的原型的距离更近。在K-means中，聚类中心就是原型，就是具有代表性的点，一个样本距离哪一个原型近，就划分为哪一簇。常见的原型聚类算法有： K-means；LVQ（

2017-09-07 10:35:55 2292

原创【机器学习－西瓜书】九、聚类：性能度量；距离计算

关键词：性能度量；距离计算；VDM9.1聚类任务聚类任务是无监督学习任务，我们只需要有样本，而不需要有标签。聚类试图将数据集中的样本划分为若干个子集，每个子集称为一个簇（cluster）。簇其实就是类，一簇就是一类。而没有标签，聚类算法把样本划分到不同的簇，算法是没办法告诉我们这些簇具体代表什么意思。所以，聚类算法仅能形成簇的结构，簇所对应的概念语义需要人为的把握和命名。由于没有类别标签，聚类算

2017-09-06 16:31:04 2456

原创【机器学习－西瓜书】八、集成学习：结合策略；多样性；总结

推荐阅读：总结；绝对多数投票法；误差-分歧分解8.4 结合策略关键词：平均法；投票法；学习法;硬投票；软投票一开始就说到，集成学习有两个关键，第一，个体学习器；第二，结合策略。对于个体学习器，通常分串行（boosting）和并行（bagging）的方法构建。有了一组学习器，如何把它们结合起来使用呢？这就设计到结合策略，通常有：简单平均法；投票法；学习法。8.4.1 平均法对于数值输出（回归

2017-09-06 10:36:32 5683

原创【机器学习－西瓜书】八、Bagging；随机森林（RF）

8.3 Bagging 与随机森林关键词： Bagging ；随机森林；8.3.1 Bagging上上一节已经提到，集成学习首要任务就是要解决个体学习器 “好而不同”，要让个体学习器尽可能的独立；而完全独立是“不存在”的，所以，设法让个体学习器尽可能具有较大的差异性。上一节提到了采用Boosting算法来串行生成个体学习器，Boosting更关注于减少偏差。而还有一种可并行生成个体学习器的算法，

2017-09-05 10:28:54 2523

原创【机器学习－西瓜书】八、集成学习：Boosting

推荐阅读：多样性；Boosting；AdaBoost第八章集成学习8.1个体与集成关键词：集成学习；弱学习器；多样性集成学习（ensemble learning 美[ɑ:nˈsɑ:mbl]）通过构建并结合多个学习器（分类器）来完成分类任务。集成学习的一般结构：先产生一组“个体学习器”（individual learner)，再用某种策略将它们结合起来。集成学习有两个...

2017-09-04 11:34:25 3297

原创【文献阅读】Fashion-MNIST: a Novel Image Dataset for Benchmarking Machine Learning Algorithms

命名技巧：项目目的：数据源：数据制作：推荐阅读：数据制作paper 地址：https://arxiv.org/abs/1708.07747 数据集下载：https://github.com/zalandoresearch/fashion-mnist 上个月底突然被Fashion-MNIST刷屏，于是乎看看这个数据集是个什么样的数据集。命名技巧：Fashio...

2017-09-04 10:40:30 4911 6

原创【机器学习－西瓜书】七、朴素贝叶斯分类器

推荐前期阅读：http://blog.csdn.net/u011995719/article/details/76732663 推荐阅读：拉普拉斯修正7.3朴素贝叶斯分类器关键词：朴素贝叶斯；拉普拉斯修正上一小节我们知道贝叶斯分类器的分类依据是这公式：P(c∣x)=P(x,c)P(x)=P(c)⋅P(c∣x)P(x)P(c\mid x)=\frac{P(x,c)}{P(x)}=\frac{P(

2017-09-02 11:35:34 5149 2

原创【机器学习－西瓜书】七、贝叶斯分类器

推荐前期阅读：http://blog.csdn.net/u011995719/article/details/76732663 推荐阅读：期望损失；条件风险7.1 贝叶斯决策论关键词：期望损失；条件风险；贝叶斯风险；判别模式；生成模式假设对手写体数字进行分类，共计有10种类别标记，即Y=｛y0,…,y9｝Y=｛y_{0},…,y_{9}｝, λij\lambda _{ij}是将一个真实样本标记

2017-09-01 15:28:02 4747