启发式算法瞎想

从抽象角度来看，启发式算法确实可以抽象为是从一个m*n的矩阵里面根据所设计的目标函数来寻取最优的那一个n维向量。问题是：作为一种NP问题，同时也是一类非确定性算法，从寻优或者优化的角度来看，现阶段往往是从矩阵内部（寻优搜索方式）来设计优化得到一种较好的优化算法。既然整个搜索空间可以视为一个n阶矩阵，为什么不从宏观角度入手去考虑呢，比如使用一些确能反映矩阵自身性质的参量入手（范数、谱半径、秩等）。往往维度是限制这类算法的一个固有瓶颈，不说像网络那种数千维大小的层级，百维左右寻优就会显得很吃力，基于维度变化（从相邻列向量的各i位置的元素进行适应值比大小然后交换是一种思路）实际效果并不如理论预期那样有效果，那么降维呢？也许，PCA这种机器学习的算法也许是行不通的，那pooling下采样呢？以一个中心点包围的网格内选取适应值最好的然后按一定步长一步步遍历整个矩阵是不是可以提升效率降低维度复杂性呢。