算法
文章平均质量分 90
机器学习算法、最优化算法、数值分析算法
海上机械师
同济大学计算机系在读博士研究生,研究兴趣是说话人识别及其相关应用。
博客主要涉及机器学习与深度学习方面的算法介绍,Python、Java 与 Matlab 的编程实现。
展开
-
端到端的文本相关说话人确认
在大数据的文本相关说话人确认中,G. Heigold 提出了一种端到端的系统,该系统将一段测试语音和一组注册语音进行匹配,直接投影为确认的得分。该方法由单个神经网络结构组成,采用联合优化的方式训练系统各个组成部分,包括确认评估的过程。在 "OK Google" 的测试场景中,提出的端到端方法优于 i-vector 系统和 d-vector,并实现了 EER 从 3% 到 2% 的提升。结果还表明:1)在说话人确认任务中,段层次的特征优于帧层次的特征;2)RNN 结构能够进一步达到 1.5% EER。原创 2020-03-16 16:10:35 · 964 阅读 · 0 评论 -
外点惩罚函数法·约束优化问题
外点惩罚函数法·约束优化问题 外点法惩罚函数(r增加,SUMT.java)用于求解约束优化问题,解题步骤如下: Step1 输入目标函数与约束方程,构建外点惩罚函数法求解方程,求解初始化。 Step2 对求解方程进行一次无约束优化方法求解(鲍威尔BWE),得到新解。 Step3 新解与原解求误差,如误差满足精度要求,则输出解,否则增加因子r,执行Step 2。 鲍威尔法(BWE.java)是N维无约束求解方法,需要调用一维求解方法,一维原创 2014-07-02 00:27:32 · 8393 阅读 · 6 评论 -
无监督学习与维度约减 机器学习基础(7)
这里介绍了无监督学习与纬度约减的基础知识。无监督学习部分:1 数据类型:无标签2 K-means 以及代价函数与算法3 K-means 中参数 K 的选择维度约减(降维)部分:1 主成分分析的概念、数学表达与求解方法2 SVD 的降维应用原创 2016-02-28 11:51:37 · 1700 阅读 · 0 评论 -
支持向量机 SVM 机器学习基础(6)
支持向量机 Support vector machines SVM介绍了支持向量机的代价函数、核函数与求解算法。同时,不同的监督学习算法的使用场合,也做了初步的介绍。同时着重介绍了高斯核函数的计算方法。在本文,我提供了 SVM 导论的下载链接与 svm 软件包的下载链接。希望大家的一起交流,一起成长。原创 2016-02-27 20:47:09 · 1384 阅读 · 0 评论 -
机器学习系统设计与应用机器学习的建议 机器学习基础(5)
关于应用机器学习的建议与设计机器学习系统。提高机器学习系统的性能,学习评估方法是一种有效的解决方案,其中包含统计、分析错误分类数据,学习曲线讨论偏差与方差,讨论正则化参数和偏差与方差的关系等。构建一个优秀的机器学习系统,必须能够处理有偏斜的数据,以增加系统的有效性与鲁棒性,而数值评估的误差分析,查准率与召回率的评估是有效的办法。大数据是目前热议的话题,的确大数据在某些机器学习系统中有显著的作用。原创 2016-02-23 20:38:49 · 1294 阅读 · 0 评论 -
神经网络的学习 机器学习基础(4)
神经网络包含前向传播与反向传播。1. 神经网络的代价函数2. 神经网络的反向传播表达与算法3. 神经网络的应用原创 2016-02-19 20:38:45 · 1348 阅读 · 0 评论 -
神经网络的表达式 机器学习基础(3)
神经网络可应对复杂的非线性分类。非线性假设当特征量多大时,特征的非线性组合方法种类的数量会非常庞大,可能对造成过拟合与极大的计算复杂度的问题。原创 2016-02-19 19:45:08 · 3401 阅读 · 0 评论 -
应用实例:照片识别 机器学习基础(10)
应用实例本文主要讲了有关图像识别项目相关的介绍,仅仅设计简单的机器学习系统设计,包含系统流水线、上限分析、人工数据合成。当然,文字识别与人脸识别的简单系统由详细的介绍,可以用以初步的了解。Python, Java, MATLAB 都有机器学习的工具箱。原创 2016-03-04 21:42:49 · 1954 阅读 · 0 评论 -
大规模机器学习 机器学习基础(9)
大规模机器学习大规模机器学习面上海量数据的要求,其方法是类似映射化简(SOM)的思路。目前已有的平台有 Hodoop。本文介绍了一些大规模机器学习中会遇到的随机梯度下降法、映射化简的概念,同时在线学习也是一种在海量数据中应运而生的学习模式。原创 2016-03-04 20:41:37 · 730 阅读 · 0 评论 -
逻辑回归 机器学习基础(2)
主要任务:逻辑回归(logistic regression)分类正则化(regularization),避免过拟合(over fitting)1. 逻辑回归的表达式与求解方法2. 应用逻辑回归到多类分类上3. 应用正则化的方法避免过拟合原创 2016-01-29 17:35:55 · 930 阅读 · 0 评论 -
多元线性回归 机器学习基础(1)
机器学习基础之多元线性回归描述了假设函数、求解方法(梯度法和正规方程)、基于Octave/MATLAB的向量化表达方法。原创 2016-01-25 15:23:16 · 1383 阅读 · 0 评论 -
异常检测与推荐系统 机器学习基础(8)
异常检测 异常检测被广泛应用于欺诈检测(例如信用卡被偷事件)。给定大量数据,指出与均值有巨大差异的点。例如,在制造业中检测缺陷与异常。高斯分布对数据建模往往会很有用。 本模块涉及“推荐系统”(Amazon, Netflix, Apple 等公司用它来向用户推荐产品)。推荐系统(Recommender systems)寻找用户与产品间的交互模式从而生成推荐建议。该课程介绍了推荐算法,例如原创 2016-03-01 14:51:35 · 2259 阅读 · 0 评论 -
数值实验3:插值法
数值实验:插值法熟悉拉格朗日插值多项式和牛顿插值多项式,注意其不同特点。观察高次插值的荣格现象。原创 2015-11-18 19:36:29 · 2915 阅读 · 0 评论 -
线性方程组6种数值解法的对比研究
线性方程组 6 种数值解法的对比研究Gauss消去法、LU分解法、Jacobi迭代法、Gauss-Seidel迭代法、超松弛(SOR)迭代法及共轭迭代法的源程序;通过实际计算,进一步了解各种方法的优缺点,选择合适的数值方法。分别对比直接法与迭代法,分析各类算法的计算复杂度和收敛特性。原创 2015-10-30 08:45:56 · 16360 阅读 · 1 评论 -
待更新·优化问题求解算法实现方法·Java版
优化设计·算法实现·继续更新中……原创 2014-05-07 10:32:24 · 1181 阅读 · 0 评论 -
修正单纯形法·优化算法实现·Java
修正单纯性法代码如下:舍去了输入转化的内容,主要包含算法关键步骤。public class LPSimplexM { private static final double inf = 1e9; private int n; // 约束个数 private double[][] A; // 输入函数参数 private do原创 2014-05-07 10:27:17 · 4565 阅读 · 4 评论