- 博客(13)
- 收藏
- 关注
原创 启发式算法
由金属退火锻造现象得来,高温阶段优化搜寻单元更加活跃,容忍度大,即使非优解也愿意接受尝试,可以跳出局部最优解,但随着冷却过程的持续,搜寻单元活性降低,越来越抵触非优解,可以以更接近传统爬山算法的方式找到最优解。(2)确定四元组<x0、T、a、max_iter>,其中x0表示随机初始解,T表示初始温度,a表示降温速度,max_iter表示最大迭代次数。(3)根据(1)和(2)以及模拟退火算法编写模拟退火函数。如何应用模拟退火算法求解下面这个函数的最小值?(4)运行模拟退火函数得出近似最优解。
2023-12-12 16:43:10
352
原创 元学习初识
机器学习是通过数据集(特征值X,目标值Y)(某个场景,如预测猫狗)训练预测/回归函数f,本质是通过降低loss找到最优的X与Y之间的映射,但这种映射有局限性,换了场景(预测房价),又需要重新找f。而元学习是通过训练任务和数据训练F,这个F可以根据需要得到f,也就是说无论什么场景,只要是在元学习中出现的训练任务,那要使用对应的f,用F映射一下就有了,不需要重新训练。
2023-12-11 16:37:22
340
1
原创 启发式算法
(1)启发式算法一般用于解决NP-hard问题(一个问题验证解的正确性需要花费多项式时间,而求解花费多少时间不知道)。(SA)、遗传算法(GA)、蚁群算法(ACO)、人工神经网络(ANN)等。(2)比较通用的启发式算法一般有。
2023-12-11 16:19:43
382
1
原创 宽度学习BL
BL将输入数据经过特征映射生成特征节点,再将特征节点经过非线性变换生成增强节点;将特征节点和增强节点拼接起来作为隐藏层,隐藏层的输出经连接权重得到最终输出。
2023-12-06 20:28:51
463
1
原创 Tensorflow数据类型基础(几种Tensor)
tf.sparse.reorder(t4_1):parse无顺序时,不能转为tensor,会报错,此时使用这个接口重排后再用to_dense。tf.sparse.to_dense(t4):SpareTensor转换为Tensor的接口。2.to_tensor():类型3转换为Tensor的接口,方便模型使用。1.作用:3和4的意义都是为了节省内存空间,磁盘空间。constant类型与numpy类型的互相转换。
2023-12-02 20:19:25
524
1
原创 深度学习超参数-搜索策略
2)使用:tf.keras.wrappers.scikit_learn.KerasRegressor(build_fn=build_model)#回调函数,把深度学习模型包裹成sklearn搜索可用的。2)训练参数:batch_size(一次训练所选取的样本数)、学习率a、学习率衰减算法(a=1)网络结构参数:层数、层宽、每层的激活函数。*b)其中k=epoch_num,b是前一次的学习率。1)网格、随机、遗传算法、启发式。
2023-11-30 21:31:56
356
原创 tensorboard
2)cd callbacks所在文件夹。3)workon tf2(虚拟环境)1)在linux下右键打开控制台。1.作用:可以看模型结构、训练精度与训练损失。5)复制网址打开浏览器粘贴。
2023-11-28 19:58:52
331
原创 深度学习记录
通常把数据集划分为三部分,分别是训练集、验证集和测试集,其中验证集用于调参并防止信息泄露,这里说的信息泄露是指如果用测试集调参就有可能会使模型更适合这个测试集,但实际模型并不会变更好,测试集在这里模拟实际情况,仅在模型训练完毕情况下进行最终的一次测试,看模型实际效果。
2023-11-22 16:58:22
314
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人