qq_44869564的博客

原创 基于NAS的任务迁移

它通过在搜索空间中寻找最佳的神经网络结构，以解决特定任务，从而优化神经网络的性能。NAS算法可以自动探索不同的神经网络结构，包括层数、节点数、连接方式等，以找到在给定任务上表现最好的架构。然而，许多NAS搜索的计算成本很高，因为它们需要在许多候选体系结构上进行训练。在需要用于多个任务的网络的情况下，搜索每个任务的架构需要从头开始，重复NAS方法以找到性能最好的网络，并且在这过程中，会丢弃积累的具有潜在有价值的知识。这可以加速新任务的训练，尤其是当新任务的数据稀缺时，或者新任务与原任务有一定的联系时。