随着研究的深入,越发的感觉数学专业的知识具有至关重要的作用。也是受刚毕业的室友的启发,作为机器学习领域的学生,应当较系统的学习一下相关的数学知识。此博客的用意在于记录并分享学习进程,并可以快速查阅一些知识。
1 最优解概念
首先,最优化问题分为两类:线性规划问题和非线性规划问题。而如何区分这两者呢?一个数学模型有两个重要的部分:目标函数和约束函数。此二者均为线性,则为线性规划问题,反之则反。
而如何判别线性与否,这也是个会经常遇到,也会是有很多人初学时的疑惑。线性的定义已经是随处可见的了,此处引用两个例子来说明。
例1.1 食谱问题
假设市场中可以买到n种不同的食品,第j种单位售价,每种食品含有m种基本营养成分,第j种食品每一个单位含第i种营养成分为
。又设每人每天对第i种营养成分的需求量不少于b。尝试确定在保证营养要求的条件下最经济的食谱。
该例子是一个线性规划问题,首先建立模型。
假设每人每天需求各种食品的数量为:。
则目标函数为:,也就是最经济的目标。
约束条件则为:,也就是保证营养成分的基本需要。
例1.2 选址问题
假设有n个市场,第j个市场的位置为,对某种货物的需求量为
。现计划建立m个货栈,第i个货栈的容量为
,尝试确定货栈的位置,使各货栈到各市场的运输量与路程乘积之和最小。
该问题是一个非线性规划问题。首先假设第i个货栈的位置为:。
第i个货栈供给 第j个市场的货物量为:。
第i个货栈到第j个市场的距离可以定义为:。
则目标函数为: