人脸识别2-飞桨大规模分类库（PLSC）核心技术解读

大规模分类模型目录

定义

训练与推理

类中心和余弦相似度

数据并行，每台机器的模型一致

官方大规模分类库，最好直接去跑一跑

模型并行，把FC的参数切分到不同的卡，模型参数一个机器放不下，其他的模型参数还是数据并行

模型并行计算loss

优化器存储参数

logits参数过大

解决梯度存储问题

节省存储，ft32变ft16

特性设计总结

API支持

模型库，模块化设计

模型并行配置

配置

稀疏梯度更新

FP16训练

精度结果

吞吐量

最大类别支持数

全流程解决方案

训练和在线验证

落地应用