Transformer到来之前,包括自动驾驶、自然语言在内的整个人工智能领域都生活在一片“天下苦秦久矣”的环境中,算法模型制约着整个产业的进步。
Transformer以及BETR出来以后,便开始在NLP领域一统江湖。随着这几年的发展,在各种视觉基准数据集上,Vision Transformer已经逐步替代掉了以往的CNN结构,并且整体架构更加简单。 自动驾驶技术在最近几年的快速进展,正是得益于深度学习算法在自动驾驶领域的应用,特别是Transformer这一深度网络模型,就像打通自动驾驶的“任督二脉”一样,对于自动驾驶技术的成熟,在未来的3-5年当中,将发挥着举足轻重的作用。
近期,基于Tr