- 博客(4)
- 收藏
- 关注
RSS订阅转载 退火算法
著名的模拟退火算法，它是一种基于蒙特卡洛思想设计的近似求解最优化问题的方法 一点历史——如果你不感兴趣，可以跳过 美国物理学家 N.Metropolis 和同仁在1953年发表研究复杂系统、计算其中能量分布的文章，他们使用蒙特卡罗模拟法计算多分子系统中分子的能量分布。这相当于是本文所探讨之问题的开始，事实上，模拟退火中常常被提到的一个名词就是Metropolis准则，后面我们还会介绍。 美国IBM公司物理学家 S.Kirkpatrick、C. D. Gelatt 和 M. P. Vecch...
2021-05-06 20:58:08
8763
转载 np.unique
np.unique(ar, return_index=False, return_inverse=False, return_counts=False,axis=None) >>> import numpy as np>>> a=np.random.normal(size=(10))>>> aarray([-0.11357244, 0.95701868, -1.22541056, 0.17625916, -1.16635707, -1....
2021-04-06 11:16:47
541
转载 L0与L1与L2范数
一、正则化背景 监督机器学习问题无非就是“minimizeyour error while regularizing your parameters”，也就是在规则化参数的同时最小化误差。最小化误差是为了让我们的模型拟合我们的训练数据， 而规则化参数是防止我们的模型过分拟合我们的训练数据。 问题背景：参数太多，会导致我们的模型复杂度上升，容易过拟合。 作用： 1、约束参数，降低模型复杂度。 2、规则项的使用还可以约束我们的模型的特性。这样就可以将人对这个模型的先验知识融入到模型的学习当中，强行地让学习到
2021-03-31 16:23:40
224
转载 KKT 拉格朗日乘数法
在求解最优化问题中，拉格朗日乘子法（Lagrange Multiplier）和KKT（Karush Kuhn Tucker）条件是两种最常用的方法。在有等式约束时使用拉格朗日乘子法，在有不等约束时使用KKT条件。 我们这里提到的最优化问题通常是指对于给定的某一函数，求其在指定作用域上的全局最小值(因为最小值与最大值可以很容易转化，即最大值问题可以转化成最小值问题)。提到KKT条件一般会附带的提一下拉格朗日乘子。对学过高等数学的人来说比较拉格朗日乘子应该会有些印象。二者均是求解最优化问题的方法，不同之
2021-03-30 10:39:53
611
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人