神经网络与机器学习 笔记—LMS（最小均方算法）和学习率退火

神经网络与机器学习 笔记—LMS（最小均方算法）和学习率退火

LMS算法和Rosenblatt感知器算法非常想，唯独就是去掉了神经元的压制函数，Rosenblatt用的Sgn压制函数，LMS不需要压制函数，两者一样是只有单个神经元。

LMS算法信号流图

 

算法小结：

然后在说下退火：

 

#pragma once

#include "stdafx.h"

#include <string>

#include <iostream>

using namespace std;