接上篇:7. 深度学习实践:正则化
7. 参数绑定和参数共享
表达对模型参数的先验知识:经常想要表达的一种常见依赖是某些参数应当彼此接近。例如,两个模型执行相同的分类任务,但输入分布稍有不同,因此我们认为模型参数应彼此靠近。可通过正则化利用这个信息,具体的例如,参数范围惩罚为 Ω(w(A)−w(B))=||w(A)−w(B)||22 。
上述2006年提出,正则化一个模型ÿ
接上篇:7. 深度学习实践:正则化
表达对模型参数的先验知识:经常想要表达的一种常见依赖是某些参数应当彼此接近。例如,两个模型执行相同的分类任务,但输入分布稍有不同,因此我们认为模型参数应彼此靠近。可通过正则化利用这个信息,具体的例如,参数范围惩罚为 Ω(w(A)−w(B))=||w(A)−w(B)||22 。
上述2006年提出,正则化一个模型ÿ