随着GPT-3给人们带来的震撼,大模型在各个应用领域得到迅速的发展和应用。
近期,媒体平台「机器之心」上发布了一篇文章「1.9万亿参数量,快手落地业界首个万亿参数推荐精排模型」,其中提到快手开发的精排模型,其参数量超过Switch Transformer,高达 1.9万亿。
关于精排模型的技术细节,可以参见「机器之心」发布文章。
快手推荐算法负责人,曾在 Google Research 担任 Staff Research Manager 的宋洋博士认为,快手精排万亿参数模型是推荐系统一个里程碑式的突破,它结合了序列模型、长短期兴趣模型、门控模型、专家模型等各个方面的优点,