Large scale optimization

背景：在之前遇见的线性规划问题中，给出的约束条件和变量虽然比较ugly, 但都是在可以接受的，起码我们一眼能看完，但是实际运用中，给的变量和约束条件的数量往往是巨大的。如果碰到的问题里变量和约束条件数量都很大的话，两手一摊只能放弃，如果只是变量或者是约束条件一方很大的话，我们可以想办法解决。

6.1Delayed cloumn generation

考虑到标准形问题
$\qquad$ $\qquad$$\qquad$min c’x
$\qquad$$\qquad$$\qquad$ s.t. Ax = B ,x$\ge$0
其中变量x$\in$$\Re^n$,限额系数b$\in$$\Re^m$，mxn矩阵A通常是行线性无关。假设列的数量十分巨大，矩阵A无法生成且储存。从过往解决大问题的经验中推断，有些没用到的列并不需要生成。这和修正后的单纯型法（Revised Simplex Method）类似，在每次迭代中，只需要当前的列向量和将要进基的列向量。在这里有一个难点需要提出来，我们需要一个方法找到负检验数$\overline{c_i}$相对应的变量$x_i$，而不需要找到所有的列。有时候，这可以被这个问题转化为一下问题