- 博客(6)
- 资源 (1)
- 问答 (1)
- 收藏
- 关注
原创 机器学习和深度学习训练常见问题
1. 如何解决正负类不平衡问题类别不均衡时,不能使用accuracy作为分类器的评价指标。例如:当在对一个类别不均衡的数据集进行分类时得到了90%的准确度(Accuracy)。当你进一步分析发现,数据集的90%的样本是属于同一个类,并且分类器将所有的样本都分类为该类。在这种情况下,显然该分类器是无效的。并且这种无效是由于训练集中类别不均衡而导致的。因此即使分类器将所有的样本都分类到大类下面时,该指标值仍然会很高。即,该分类器偏向了大类这个类别的数据。例如下面这个图:[外链图片转存失败,源站可能有防盗链
2020-10-28 05:32:50 1113 1
原创 神经网络中各种优化器介绍
1. SGD1.1 batch-GD每次更新使用全部的样本,注意会对所有的样本取均值,这样每次更新的速度慢。计算量大。1.2 SGD每次随机取一个样本。这样更新速度更快。SGD算法在于每次只去拟合一个训练样本,这使得在梯度下降过程中不需去用所有训练样本来更新Theta。BGD每次迭代都会朝着最优解逼近,而SGD由于噪音比BGD多,多以SGD并不是每次迭代都朝着最优解逼近,但大体方向是朝着最优解,SGD大约要遍历1-10次数据次来获取最优解。但是 SGD 因为更新比较频繁,会造成 cost func
2020-10-28 05:26:30 2013
原创 Cross_entropy和softmax
1. 传统的损失函数存在的问题传统二次损失函数为:J(W,b)=12(hW,b(x)−y)2+λ2K∑k∈Kwij2J(W,b)=\frac 12(h_{W,b}(x)-y)^2+\frac \lambda{2K}\sum_{k \in K}w_{ij}^2J(W,b)=21(hW,b(x)−y)2+2Kλk∈K∑wij2权重和偏置的迭代方程为:KaTeX parse error: No such environment: align at position 8: \begin{̲a
2020-10-28 05:16:36 189
原创 pytorch模型可视化
1. 使用dot1.1 安装graphviz和torchvizsudo apt-get install graphvizsudo pip install torchviz1.2 使用torchvizimport torchfrom torch import nnfrom torchviz import make_dot, make_dot_from_trace# Visualize gradients of simple MLP# The method below is for bu
2020-10-27 11:28:18 1175
原创 pycharm导入本地py文件
pycharm导入本地文件时出现错误标志unresolved reference但是运行时不报错,可以在要导入文件的目录上右击,然后选择标志为sources root:
2020-10-23 03:52:47 2603
原创 windows安装caffe
caffe windows上有教程,但是有几点没有详细说明。1. 安装vc编译器安装vc编译器后,在cmakelist.txt中设置使用vc编译器而不是gcc:set(CMAKE_C_COMPILER "D:/Microsoft Visual Studio 12.0/VC/bin/cl.exe")set(CMAKE_CXX_COMPILER "D:/Microsoft Visual Studio 12.0/VC/bin/cl.exe")2. 安装boost在boost官网上下载exe安装文件。
2020-10-17 17:09:14 295
ubuntu运行./configure时出错
2015-08-07
TA创建的收藏夹 TA关注的收藏夹
TA关注的人