重温线性代数（1）——线性组合

        线性代数是数学中的基础，也是十分重要的数学工具。在接触机器学习之后，我逐渐认识到了线性代数的重要性，矩阵运算，优化求解，都离不开线性代数的知识。同时，我也发现了自己数学基础的严重不足，急需好好重学一遍线性代数，为之后的学习打好基础。因此，“重温线性代数”这个系列就诞生了。或许大家会觉得这个系列的内容稍微基础了点，但学习就是如此，一遍又一遍，脚踏实地，温故知新，每次学习都会有新的收获。

        离开了大学的课堂，但还好现在有琳琅满目的网络公开课课程。我选择学习的是网上颇受赞赏的MIT "Introdution to Linear Algebra"课程，由Gilbert Strang主讲。参考书目为Strang编写的《Introduction to Linear Algebra》4th edition。目前为止，我觉得这门课给我提供了不少新的有趣的思路，是我之前学习线性代数的时候没有思考过的，值得一学。

——————————————————————————————————————————————————————————————————

        本文涉及的内容是课程视频的前5课，对应的是书中的前两章Introduction to Vectors 和 Solving Linear Equations。由于这两章的内容最为基础，我不会详细地介绍书的内容（我也没看），只是根据课程视频总结一些有趣的points。

        这一部分让我印象最深的有两点：

1. 如何看待矩阵相乘AX：AX 可以看作矩阵A中列向量的组合（各列向量的组合权重即为x中各项的值）；
2. 如何看待消元法：消元法可以看作将矩阵A分解为 A = LU。

        以下慢慢道来。

1、线性组合

       我们先来看以下一个简单的包含两个未知数，两个方程的方程组：

       

        该方程组可以通过矩阵表示：AX = b。其中