稀疏编码的解释

稀疏的解除了计算量上的好处之外，更重要的是更具有“可解释性”。比如说，一个病如果依赖于 5 个变量的话，将会更易于医生理解、描述和总结规律，但是如果依赖于 5000 个变量的话，基本上就超出人肉可处理的范围了。引入稀疏性的方法是用  regularization 代替 regularization，得到如下的目标函数

http://freemind.pluskid.org/machine-learning/sparsity-and-some-basics-of-l1-regularization/