范数这个数学名词在机器学习中应该是十分常用的。例如在讨论正则化相关的话题时,或者更具体地在介绍LASSO和岭回归时,还有深度学习中很多优化的目标函数(或者Loss function)的定义中都需要用到范数。本文就从泛函分析中的范数概念说起,并介绍与赋范空间有关的知识。
范数与赋范空间
每个实数或复数,都有相对应的绝对值或者模,每一个n维矢量,也都可以定义其长度。如果把“长度”的概念推广到一般抽象空间中的元素上,就可以得到范数这个概念。
【本文完】
欲了解更多机器学习背后的数学知识,请参考《机器学习中的数学修炼》一书(清华大学出版社),步步为营,点破公式背后的层层玄机,为你打开一道通向机器学习世界的数学之门。