- 博客(4)
- 收藏
- 关注
RSS订阅转载 Softmax 与 SVM
Softmax 与 SVM Softmax线性分类器的损失函数计算相对概率，又称交叉熵损失「Cross Entropy Loss」。线性 SVM 分类器和 Softmax 线性分类器的主要区别在于损失函数不同。SVM 使用 hinge loss，更关注分类正确样本和错误样本之间的距离「Δ = 1」，只要距离大于 Δ，就不在乎到底距离相差多少，忽略细节。而 Softmax 中每个类别的得分函数都会影...
2019-04-07 19:16:33
789
原创 不同Tuner下的结果分析
一、Mnist-annotation分析## Mnist-annotation结构分析 主要由3部分构成： 配置文件 nni 有两种配置方式，分别为 Annotation 和 Assessor，这个例子是用 Annotation 的配置方式，对需要搜索的参数层直接在网络结构的代码里定义了所需的搜素空间，配置文件config.yml默认参数配置如下： 搜索空间代码如下： python代码...
2019-03-14 14:30:48
605
原创 NNI中实现的Tuner分析
[-NNI中实现的Tuner分析与其他Tuner调研]一、Tuner定义二、NNI中的tuner三、其他tuner调研 一、Tuner定义 Tuner其实就是调参器，因为参数空间是比较大的，尤其还需要组合起来进行实验并测试效果，这样的训练时间基本是无法掌握的，所以就需要定义一些用于搜索参数空间的算法，这里主要是介绍NNI中的tuner算法，NNI通过直接调用多种开源库或复现流行调参算法为用户提供便...
2019-03-13 22:04:51
1026
1
原创 NNI使用体验
[-NNI使用体验]一、NNI简介二、常见 Auto ML 对比三、安装过程四、使用过程五、建议 一、NNI简介 在机器学习建模时，除了准备数据，最耗时耗力的就是尝试各种超参组合，找到最佳模型的过程了。对于初学者来说，常常是无从下手。即使是对于有经验的算法工程师和数据科学家，也是很难把握所有的规律，只能多次尝试，找到较好的超参组合。而自动机器学习这两年成为了热门领域，它将机器学习过程中包括自动特征...
2019-03-13 21:57:18
1541
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人