在讨论优化问题时我们先来讨论全局最优和局部最优
全局最优:问题所有的可能解中效果最好的解。
局部最优:问题的部分可能解中效果最好的解。
一个针对的全局,一个针对的部分。
就像我们设初值一样,设置了以后函数开始迭代变化。
这时可能出现两种现象
①迭代到一个解,该解距离初值较近,此处该值很有可能是局部最优。
②迭代到一个解,该解距离初值相对较远,此处该值很大可能是全局最优,当然也可能是局部最优。
上面这个图相信大家看到过很多类似的,包括那个爬山坡的图在内,但是这里想强调的一点,这些图虽然很直观,但是也容易造成误解。我去……我一个求最优干嘛让我看这些图,我那些一堆公式,怎么才能和这些图对上呢???
这里就需要解释一下了:我们的求解其实都是迭代的过程,我们的函数在我们选择的起始点进行多个方向的尝试,看哪个反向能得到最优就向着哪个方向前进。那么什么是最优,这里我们的理性告诉我们,其他方向都比我差,我就是最优。是这样么?你是不是进入了一个小沟沟?这里就是局部了,你只能说你在你附近方圆几百里是最好的,但是地球那么大,你不想去看看么,这里就引入了全局最优,你是中国第一不行,你需要是全世界第一才行。