Delata learing中比较经典的学习方法,其中,黄色部分应该是要学习和更新的参数,蓝色部分应该是frozen params 彩色线条表示现有研究已经尝试过的做法,灰色表示还没有研究做过。 OpenDelta 和 OpenPrompt 的合作 无论是prompt learning还是Delta learning,是不是预训练模型才是首要的,是基准,所以,先来看已有的PLM和可适用的任务。这个需要做总结。