传统信号处理的作用,往往是在频域上对某部分频段的信号进行增强,或者是对某部分频段的信号进行衰减,又或者兼而有之,它是对确定信号的一种信号处理,数字滤波器在这里面起到了关键的作用。
而现代信号处理这个课题面对的是随机信号和随机过程。其中估计和预测是自适应滤波的两个典型的应用,比如说将湮没在噪声中信号估计出来,此处的淹没不单单指的是信噪比,而是说他们很有可能在频谱上也是混叠的,传统的低通和高通显得显得无能为力。
后续的学习笔记,将会围绕:
-
维纳滤波器
-
最速下降法
-
随机梯度下降法 -----本文------
-
最小均方算法(LMS)-----本文------
-
最小二乘法以及递归最小二乘算法(RLS)
-
卡尔曼滤波器
-
矩阵的基本知识
本文论述随机梯度下降法,其中最早的一种应用LMS法。通过分析LMS法和最速下降法之间的区别,来慢慢揭开随机梯度下降法的面纱。
下面的学习笔记,将会以图形的形式进行展示,是因为原word文档的公式在公众号编辑器里有点水土不服,同时也懒得再用markdown重新开始编辑,同时也附上百度网盘的下载地址,观看效果应该更好,同时也附上参考书籍。
链接:https://pan.baidu.com/s/1S79AWpIsYz6IEe_ZkTER8A
提取码:saz4