![](https://img-blog.csdnimg.cn/20201014180756927.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 89
only demo
一头研究牲
展开
-
医学图像分割评价指标
那么,对应到混淆矩阵中,那肯定是希望TP与TN的数量大,而FP与FN的数量小。,ap},B={b1,…[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-S4W6mL2e-1666008006241)(attachments/6PIU6ZGH.png)]6、交换A集合和B集合的角色,计算B→A的单向豪斯多夫距离h( B, A ),选出h( A, B )和h( B, A )中最长的距离,就是A,B集合的双向豪斯多夫距离。当分类问题是二分问题是,混淆矩阵可以用上面的方法计算。原创 2022-10-17 20:03:06 · 2877 阅读 · 3 评论 -
机器学习——推荐算法
1、随机初始化参数θ和x2、使用梯度下降优化代价函数,求得最优的θ和x。因为x∈R。原创 2022-07-31 11:18:18 · 3836 阅读 · 0 评论 -
评估异常检测
1、如果多变量高斯模型的协方差矩阵除了对角线之外,全是0。那么多变量高斯模型和原始的模型就是一样的模型。2、由于第一点原因,原始的模型的可视化图一定是轴对称的。而多变量高斯模型还可以是y=x对称。因此原始的模型其实是多变量高斯模型的一种特殊情况。3、原始的模型,协方差矩阵是对角矩阵,暗示各个特征之间是相互独立的。当使用多变量高斯模型的时候,暗示各个特征之间是有联系的。对于原始模型和多变量高斯模型的选择主要遵循以下几个方面1、原始的模型需要手动建立特征之间的关系,也就是创建新的特征。手动创建的。......原创 2022-07-29 18:09:01 · 593 阅读 · 0 评论 -
机器学习——PAC
在利用PCA算法的时候,我们需要确定降至的维度k,这个k同样也被称为数据主要成分的数量或者数据的主要成分保留的数量,这一小节就来讨论一下如何选择k。假设我们已经通过算法选择了要投影的线是橙色那条,那么我们可以用蓝色的线绘制出它的投影误差,我们要做的其实就是时投影误差尽可能地小。将这50维的数据压缩为2维,之前需要一个向量中50个实数表示一个国家,想在只需要2个实数。为了作出对比,我们绘制了下面一条粉红色的线,可以见到它的投影误差则是比较大的。在我们进行PCA处理前,我们首先需要对数据进行预处理。...原创 2022-07-28 11:48:29 · 2457 阅读 · 0 评论 -
无监督学习——聚类
当聚类的个数2-10是,可以进行一百次循环选出最佳的局部最优解,但当聚类的个数超大时,进行100次循环效果甚微。2、第一个for循环代表遍历每一个样本,为每一个样本选择一个簇,也就是选择1~K个聚类中心的一个。就代表选择第几个聚类中心。其中选择的方法就是选择距离当前样本最近的聚类中心,也就是使得min||x。从第一副图到第二幅图,不断进行迭代,使得每个样本到聚类中心的距离之和最小。此外,K-Means聚类算法有可能会出现局部最优的情况,如下图所示。如上图,我们就会选择那个“拐点”作为我们K值的选择。...原创 2022-07-27 16:11:03 · 1105 阅读 · 0 评论 -
机器学习系统设计
3.对邮件的主体部分构建更为复杂的特征(例如,单词“discount”和“discounts”是否应该被视为同一单词,或者是否应该把“deal”和“dealer”视为同一个单词,在这个例子中可以关注单词首字母的大小写或者通过标点符号来构建复杂的特征);1.收集更多的数据,让我们有更多的垃圾邮件和非垃圾邮件样本(例如,HoneyPot项目通过创建虚假的邮箱地址,并故意将这些地址暴露给垃圾邮件的发送者以此来收集大量的垃圾邮件,然后得到大量的垃圾邮件数据来训练分类算法);值)的方法来进行评估。...原创 2022-07-25 15:09:01 · 590 阅读 · 0 评论 -
模型选择问题及诊断偏差与方差
1、定义不同的多项式函数(d=1、d=2、…、d=10)2、通过训练集最小化每个模型的代价函数,得到θ(i)。3、分别选取每一种假设和它相应的参数θ。原创 2022-07-24 16:38:21 · 353 阅读 · 1 评论 -
反向传播及梯度检测
2、在进行梯度变化的过程中,虽然之后都会进行变化,但是权重会始终保持一样,即蓝色的权重等于蓝色的权重,红色的权重等于红色的权重,绿色的权重等于绿色的权重,这样就会一直使a。如果有多个隐藏层,那么每个隐藏层的单元数最好相同(虽然更多的单元数会得到更好的结果,但是也要考虑到计算量)为了解决这个问题,就提出了随机初始化的思想,就是采用随机数来赋值权重,我们会对Θ在一个范围内进行随机赋值,如下图所示。在进行神经网络的具体实现的时候,很容易出bug,因此通常会使用梯度检测的方法来检验神经网络的实现是否正确。...原创 2022-07-23 14:25:47 · 1172 阅读 · 0 评论 -
保姆级学会反向传播
误差反向传播算法简称反向传播算法(即BP算法)。使用反向传播算法的多层感知器又称为BP神经网络。BP算法是一个迭代算法,它的基本思想为(1)先计算每一层的状态和激活值,直到最后一层(即信号是前向传播的);(2)计算每一层的误差,误差的计算过程是从最后一层向前推进的(这就是反向传播算法名字的由来);(3)更新参数(目标是误差变小)。迭代前面两个步骤,直到满足停止准则(比如相邻两次迭代的误差的差别很小)。下面以三层感知器(即只含有一个隐藏层的多层感知器)为例介绍“反向传播算法(BP算法)”。原文链接。...转载 2022-07-22 22:11:51 · 422 阅读 · 0 评论 -
初识神经网络
y=y=x1XNORX2代表当x1,x2全为0或1的时候y=1,否则y=0。2、对上图进行简化,其实我们的训练集中包含许多图片,有人、汽车、摩托车、卡车等。x(i)代表一张图片,y(i)则代表一个四维向量。通过上述例子,我们可以体会到,通过输入层的数据,经过隐藏层,一层一层地进行加工,最终得到输出。2、在神经网络中,激活函数是指待非线性函数g(z),例如我们在简单逻辑回归中的g(z)一样。3、我们之前的学习中,我们通常称θ为参数,但是在有写文献中,会称它为权重,两者含义相同。...原创 2022-07-21 15:41:56 · 408 阅读 · 0 评论 -
过拟合问题及正则化
同样,过拟合问题也会出现在逻辑回归问题中关于如何解决过拟合现象,我们上面用到的方法似乎是进行可视化,然后判断是否出现了过拟合现象。但是当训练集中的特征有很多的时候,我们是没有办法进行可视化的。因此对于过拟合现象的解决办法主要有以下几种1、...原创 2022-07-20 19:54:22 · 1273 阅读 · 0 评论 -
分类及决策界限
此外我们为了方便理解,我们可以将下图的x和θ这些参数划掉,根据概率统计原理,y=1和y=0的概率之和为1。对于我们刚刚提到的代价函数是个分段函数,就比较复杂,对此我们可以进行简化,得到代价函数的一个简单表达式。那么因为sigmoid是一个非线性的函数,因此我们会得到一个非凸的代价函数,也就是无法确保进行梯度下降的时候得到全局最低点,如下左图所示。当我们进行预测的时候,我们给出一个新的输入值x,然后我们需要在这三个分类器中分别运行输入x,然后选择h。对于二分类问题,我们知道结果非0即1,而且我们可以通过h。.原创 2022-07-19 13:12:54 · 859 阅读 · 0 评论 -
多元线性回归
在这里,我们依然使用房价数据,但是在前面的基础上,增加了多个特征进行房价的预测。例如我们有时也会进行一个称为均值归一化的工作,通过均值归一化,可以使得我们进行梯度下降的时候能够收敛的更快。此外,我们也可以从不同的角度看待这个问题。到目前为止,我们都是一直通过梯度下降算法求解最优的θ,这一小节就会学习另一种求最优θ的方法,也就是正规方程的方法。在进行多元的梯度下降时,如果各个特征的取值范围比较相近,那么梯度下降的收敛速度会比较快。其实在[-1,1]之间也是可以的,例如不会超过3,或者不低于1/3都是可以的。.原创 2022-07-15 20:09:22 · 522 阅读 · 0 评论 -
代价函数和梯度下降
其中 hθ(x)=θ0+θ1x1 表示预测函数,我们可以通过改变θ0θ1 来使预测函数更好的与这些数据集拟合。横轴代表房子面积,纵轴代表房子价格,我们要选择合理的参数值,使得在数据集中给出的数据x值,可以更接近得到预测y值。所给出的标准就是在线性回归问题中,我们要解决的是一个最小化问题。即写出关于θ0 θ1 最小化,从而引出代价函数这一定义。hθ (x(i))代表预测函数的输出值,y(i)代表真实数值,其两者之差的平方的m个数据集的和,1/2m则是为了减少平均误差。为了目标明确,我们定义J(θ0原创 2022-07-12 16:22:58 · 422 阅读 · 0 评论 -
监督学习和无监督学习
2. 监督学习监督学习是从标记的训练数据来推断一个功能的机器学习任务。训练数据包括一套训练示例。在监督学习中,每个实例都是由一个输入对象(通常为矢量)和一个期望的输出值(也称为监督信号)组成。监督学习算法是分析该训练数据,并产生一个推断的功能,其可以用于映射出新的实例。......原创 2022-06-18 10:12:30 · 2933 阅读 · 0 评论