上期的最后,我们留下了一个问题——库恩塔克条件为什么叫KKT条件,这多出来的一个“K”指的是谁呢?本期我们就将为大家介绍KKT条件背后的故事以及那另一个“K”。
一、KKT条件的历史背景
KKT条件(Karush-Kuhn-Tucker conditions)是由三位数学家的姓氏组成的缩写,分别是Karush、Kuhn和Tucker。这三位数学家都对非线性规划问题的最优化条件做出了重要的贡献。不同于Kuhn和Tucker师出同门,Karush与另两位并没有真正认识过,KKT条件是他们唯一的联系。具体来说:
Karush是最早提出这种条件的人,他在1939年的硕士论文中给出了含有不等式约束的优化问题的必要条件。但是,他的论文并没有引起当时数学界的注意,甚至他自己也没有意识到他的发现有多重要。
直到1951年Kuhn和Tucker发现了Karush的工作,并将其推广到更一般的情况,同时也给出了充分条件。他们的论文引起了很多学者的重视,也奠定了非线性规划理论的基础。但是,他们也遇到了一些困难。首先,他们在寻找合适的期刊发表时,被拒绝了好几次,因为当时很多编辑认为这个问题太复杂,没有实际意义。其次,他们在给出充分条件时,使用了一个错误的引理。这个引理是由一个叫做Fritz John的数学家提出的,但是John自己也没有证明它。后来,在1954年,一个叫做Uzawa的日本数学家发现了这个错误,并给出了一个正确的证明。
(数学家Fritz John)
因此,KKT条件是对这三位数学家的一种致敬,也是非线性规划领域最重要的成果之一。
二、Karush生平介绍
在上一期中,我们介绍了KKT条件的两位创始人库恩和塔克的生平,下面小编将带着大家一起去了解一下第三位创始人——Karush。
基本介绍
William Karush(1917年3月1日至1997年2月22日)是美国加州州立大学北岭分校的数学教授,也是一位数学家,因其对Karush–Kuhn–Tucker条件的贡献而闻名。
(William Karush)
生平纪事
Karush于1917年3月1日出生在伊利诺伊州芝加哥。
1939年,Karush以优异的成绩获得了莫斯科大学的数学硕士学位,他的论文题目是《含有不等式约束的多变量函数的极小值问题》。在这篇论文中,他首先给出了含有不等式约束的优化问题的必要条件,这就是后来被称为KKT条件的一部分。
1942年从芝加哥大学获得博士学位后,Karush在华盛顿卡内基研究所短暂工作,然后返回芝加哥加入曼哈顿计划。从1943年到1945年,Karush是芝加哥大学冶金实验室和橡树岭的副物理学家,在那里他帮助解决了与核反应堆设计有关的数学物理问题。他签署了西拉德请愿书,试图避免对日本使用原子弹,后来成为一名和平活动家。
(西拉德请愿书)
除知名的KKT条件外,Karush还编写了一些数学方面的书籍和文章,如《Webster’s New World Dictionary of Mathematics》、《On the Maximum Transform and Semigroups of Transformations》等。
Karush于1997年去世,享年79岁。
其他成果
·Karush与Richard Bellman合作,发表了《关于最大变换和变换半群》,这是一篇关于非线性函数的最大值问题和变换半群理论的文章,其中引入了Karush-Bellman不等式和Karush-Bellman方程。
·Karush与Magnus Hestenes合作,发表了《关于非线性规划问题的最优化条件》,这是一篇关于KKT条件的推广和应用的文章,其中给出了一般形式的非线性规划问题的必要条件和充分条件,并举例说明了它们在经济学、工程学、物理学等领域的用途。
·Karush与Oscar Tarcov合作,编写了《Webster’s New World Dictionary of Mathematics》,这是一本关于数学术语和概念的词典,其中收录了许多Karush本人提出或参与的数学名词和定理,如Karush-Bellman不等式、Karush-Bellman方程、KKT条件等。
三、其他案例
KKT条件的由来说明了数学研究中的一个现象——即有些重要的发现可能会被忽视或遗忘,直到后来被其他人重新发现或引用。这也反映了数学家之间的交流和合作的重要性,以及数学期刊和会议的作用。而在数学史上,这样的事件并不少见,下面小编就为大家介绍几个类似的故事。
①线性规划的理论基础是单纯形法(Simplex Method),它是由美国数学家乔治·丹齐格(George Dantzig)在1947年提出的。但是,在丹齐格之前,苏联数学家列奥尼德·康托洛维奇(Leonid Kantorovich)在1939年出版的《生产组织与计划中的数学方法》(Mathematical Methods of Organizing and Planning Production)一书中就已经建立了一个线性规划模型,并将其用于当时列宁格勒胶合板厂的计划任务。但是,由于当时的政治环境和语言障碍,康托洛维奇的工作并没有引起西方数学界的注意,直到1959年才被翻译成英文。康托洛维奇后来也因为其在线性规划方面的贡献而获得了1975年诺贝尔经济学奖。
②动态规划的概念是由美国数学家理查德·贝尔曼(Richard Bellman)在1950年代提出的,他将其应用于控制论和运筹学等领域。 但是,在贝尔曼之前,印度数学家拉马努金(Srinivasa Ramanujan)在1913年就已经发现了一种类似于动态规划的方法,并将其应用于分析分拆数(Partition Function)和其他组合数论问题。 但是,由于拉马努金早逝和他的工作缺乏系统性和普及性,他的方法并没有引起当时数学界的重视,直到后来被其他人重新发现或引用。
③随机规划(Stochastic Programming)是一种求解最优化问题的数学方法,即在不确定性或随机性存在的情况下,使一个目标函数达到最大或最小值。随机规划的理论基础是期望值法(Expected Value Approach),它是由美国统计学家阿布拉姆·沃尔德(Abraham Wald)在1945年提出的。 但是,在沃尔德之前,苏联统计学家安德烈·科尔莫戈洛夫(Andrey Kolmogorov)在1939年就已经发表了一篇论文《关于最优化问题的一种新方法》(A New Method for Solving Optimization Problems),其中提出了一种类似于随机规划的方法,并将其应用于最优化投资组合的问题。 但是,由于当时的政治环境和语言障碍,科尔莫戈洛夫的工作并没有引起西方数学界的注意,直到1956年才被翻译成英文。
看到这里,想必大家对KKT条件以及Karush肯定有了更深的了解,之后我们还会分享数学史上的更多趣闻轶事,敬请期待吧!
作者 | 葛彦泽 张巧英
责编 | 陈梦
审核 | 徐小峰
YUNCHOUSHUO!
·知乎|运筹说·
·bilibili|运筹说·
·CSDN|运筹说·
·抖音|运筹说·