线上参加了GTC2021的报告,听了一些报告,简要总结一下。
大规模分布式GPU图嵌入在腾讯的实践之路
- Background Information
一开始都是介绍背景,这里介绍了图算法在哪些领域里得到应用。社交,生物、IOT等
技术背景embedding
点出应用的challenge
- GPU Graph Embedding System Design
多个GPU 多个node的情况下
- Performance Analysis
数据node edge
训练
scaling
- Conclusion and Future Works
数据并行与模型并行
硬件相关communication
图相关算法