2021.09.27-10.3 AI行业周刊（第65期）：坚持的力量

本周话题：坚持的力量

国庆节花费了13个小时，从无锡开车回老家。

原本只需要4个小时，结果生生的开了一天，虽然很累，但是回家乡的执念一直在坚持。

开车回家的一路上，一直在回想这些年坚持做的很多事情：

① 从08年上大学，每天坚持锻炼，直到现在每天1000个跳绳，111个划船运动，每周2次健身房运动。

② 毕业后这7年，坚持每天不浪费时间，每天到12点睡觉。

所以一整年基本上没有节假日，包括国庆节这个假期。

准备训练营课程，准备数据集、大白AI周报、课程视频，此外公司的一些工作、会议，虽然回家，但是也基本上被工作充斥的满满的。

不过虽然很忙碌，但是过的很充实，一切都按照努力的方向在前进。

③ 在做www.jiangdabai.com中很多版块的时候，也坚持了很多。

比如《30天入门人工智能》课程，坚持了一年左右。

《人工智能算法岗江湖武林秘籍》，坚持了8个月完成。

《炫酷项目实战》版块所有的项目和代码说明，坚持了5个月完成。

回想起来，坚持的事有很多。

现在又将开始新的坚持，本月开始，每个月中旬，会带着几百名小伙伴一起，从公司项目实战的角度，一起学习，一起成长，敬请期待。

越来越相信坚持的力量，最终可以通过我们的努力，找到属于我们自己的人生梦想。

为了便于大家快速了解行业动态，大白对周报中部分文章进行总结简述，大家可以根据自己的喜好，可以再进一步阅读。

1 深度学习相关

（1） 特征选择：常用的方法汇总

在处理结构型数据时，特征工程中的特征选择是很重要的一个环节，特征选择是选择对模型重要的特征。它的好处在于:

● 减少训练数据大小，加快模型训练速度。

● 减少模型复杂度，避免过拟合。

● 特征数少，有利于解释模型。

● 如果选择对的特征子集，模型准确率可能会提升。

所以模型的特征并不是越多越好，而本文从特征选择方法的角度对常用的三种方法：

过滤法(Filter)、包裹法(Wrapper)和嵌入法(Embedded)，进行了讲解。

链接：https://mp.weixin.qq.com/s/dYpNkkmk807hGHMH2lCPWQ

（2）EfficientNetV2和CoAtNet：模型下降7倍，训练速度提升10倍

模型在更小、更快和更准之间矛盾吗？能同时达到这几个效果吗？

Google Research提出两个模型EfficientNetV2和CoAtNet，竟然同时做到了这三点，模型下降7倍，训练速度提升10倍，还能拿到sota！

链接：https://mp.weixin.qq.com/s/kf3mhAhvOY-wJFH48VMpwg

（3）PP-LCNet：CPU上精度提升，且比MobileNetV3+快3倍

在设计轻量级CPU网络时，作者特别考虑以下三个基本问题：

① 如何在不增加延迟的情况下促进网络学习更强的特性展示。

② 在CPU上提高轻量级模型精度的要素是什么?

③ 如何有效结合不同的策略在CPU上设计轻量级模型。

在此基础上，本文提出了一种基于MKLDNN加速策略的轻量级CPU网络，即PP-LCNet。

本文的主要贡献是总结了一系列在不增加推理时间的情况下提高精度的方法，以及如何将这些方法结合起来以获得更好的精度和速度的平衡。

在此基础上，提出了设计轻量级CNN的一些准则，为其他研究人员构建轻量级CNN提供了新的思路。

链接：https://mp.weixin.qq.com/s/PKJ8UQC6ADbLgFBkr07uHA

2 研究方向方面

（1）目标检测综述：细数10种Dense Prediction网络

Anchor-free目标检测算法分为两种：

一种是DenseBox为代表的Dense Prediction类型，密集地预测的框的相对位置；

另一种则是以CornerNet为代表的Keypoint-bsaed Detection类型，以检测目标关键点为主。

本文对于10种Dense Prediction类型的检测网络进行了讲解。

链接：https://mp.weixin.qq.com/s/bnsFXAwr26KF5Cq9jBdq1A

（2）BundleTrack ：无需任何CAD模型的6D物体姿态跟踪算法

最近，谷歌X的实习生Bowen Wen，新开源了用于6D物体姿态跟踪的代码BundleTrack，该工作已经被今年的IEEE/RSJ International Conference on Intelligent Robots and Systems (IROS)录用。

该开源项目主要贡献如下：

1.一个全新的6D物体姿态算法，不需要实例或类级别的CAD模型用于训练或测试阶段。该算法可立即用于新颖物体的6D姿态跟踪。

2.在NOCS数据集上的创下全新记录，将以往的表现从33.3%大幅度提升到87.4%。

3.首次将具有记忆功能的位姿图优化引入6D物体姿态跟踪。除了相邻帧的匹配还能够借助带记忆功能的历史帧解决特征匹配不足和跟踪漂移问题。

高效的CUDA编码，使得本来计算量庞大的位姿优化图能在线实时运行，达到10Hz。足够用于AR/VR，视觉反馈控制操纵，物体级SLAM等。

链接：https://mp.weixin.qq.com/s/V4wsWv_maTKonsZMOu-ozg

（3）视频就能捕获3D人体动作！

不靠昂贵的动捕，直接通过视频也能提取3D人体模型然后进行生成训练。

英伟达这项最新研究不仅省钱，效果也不错，其合成的样本完全可以用在以往只在动捕数据集上训练的运动合成模型，且在合成动作的多样性上还能更胜一筹。

目前成果已被ICCV 2021接收。

链接：https://mp.weixin.qq.com/s/b3qJSrC-aevPlBc89GwCAw

（4）一文读懂3D人脸识别十年发展及未来趋势

近年来，人脸识别的研究已经转向使用 3D 人脸表面，因为 3D 几何信息可以表征更多的鉴别特征。

本文通过代表性研究的详细描述来对各类技术进行评估，其中将技术的优缺点，总结为对面部变化（表情、姿态和遮挡等）的准确性、复杂性和稳健性。

全面涵盖了 3D 人脸识别的常规方法和深度学习方法，并阐明了可用的 3D 人脸数据库和未来的研究挑战与方向。

链接：https://mp.weixin.qq.com/s/kEZYpPnqJiiLxqH-CIK-Zw

3 行业拓展阅读动态

（1）AI天气预报吊打气象台：1张GPU1秒预测1小时天气

在过去的几年里，DeepMind一直在悄悄地与英国气象局合作，而最近一篇发表于《自然》杂志上的论文则展示了这一成果。

简而言之，DeepMind设计了一个全新的机器学习模型，可以预测未来几小时内是否会下雨。

结果表明，DeepMind的深度生成模型可以提供更好的预测质量、预测一致性和预测价值。模型在1,536公里×1,280公里的区域内产生了逼真且时空一致的预测，提前期为5-90分钟。

通过50多位气象专家的系统评估，与其他两种竞争方法相比，DeepMind的生成模型以89%的绝对优势在准确性和实用性两方面排名第一。

链接：https://mp.weixin.qq.com/s/yReeX9gOrzakDCig3-0HdQ

（2）移动端算法优化概述

相比于服务器端和云端算法，移动端算法落地困难重重，主要原因有以下几点：

■ 受限于芯片的封装面积、功耗、散热等因素，移动端处理器的性能远低于服务器端处理器的性能，除此之外，在移动端上还有内存、存储空间、网络带宽等居多限制。

■ 越来越多的移动端影像算法应用的需求，同时对于影像算法的效果的要求也是越来越高，这又对移动端平台的计算能力提出了更高的要求。

■ 移动端很多应用场景对于影像算法的实时性要求很高，以手机相机为例，拍照时间长、拍照卡顿、手机发烫这些问题会直接减低用户的使用体验。

本文作者为小米手机影像算法部门的算法加速团队，在简要介绍了移动端算法优化的背景后，以高通平台为例，介绍了移动端系统架构，以及移动端算法优化工程师所需要的能力模型。

链接：https://mp.weixin.qq.com/s/2aSspuY_UX2s1jO3qCNR5w

之前的周报，大白会将每周的精华内容汇总起来，整理到《大白AI周报精华汇总》中，点击即可查看。

后期需要哪方面的项目知识，可以直接去对应阅读。

大白也在不断收集更新各个项目算法作者及从业经验的视频分享，希望能让大家提高一些探索的效率，点击查看。

整理汇总：江大白
内容周期：2021.9.27-10.3
同步公众号：江大白

---

1 整理涉及公众号名单

（1）我爱计算机视觉
（2）Cver
（3）Datawhale
（4）量子位
（5）极市平台
（6）新智元
（7）机器之心
（8）AI算法与图像处理
（9）Opencv学堂
（10）PaperWeekly
（11）机器学习算法工程师
（12）AI研习社
（13）GiantPandaCV
（14）AI深度学习视线
（15）七月在线实验室
（16）人工智能前沿讲习
（17）AI科技评论
（18）机器学习算法与Python精研
（19）AIZOO
（20）微软研究员AI头条
（21）VALSE
（22）AI算法修炼营
（23）有三AI
（24）AlWalker
（25）AI公园
（26）AI人工智能初学者
（27）计算机视觉之路
（28）小白学视觉
（29）HyperAI超神经
（30）集智书童
（31）计算机视觉life
（32）CV圈

2 行业精华文章汇总

2.1 基础知识方面

2.1.1 深度学习相关

（1）特征选择方法最全总结！
链接：https://mp.weixin.qq.com/s/dYpNkkmk807hGHMH2lCPWQ
（2）Google 提出两个逆天模型：体积下降7倍，速度提升10倍
链接：https://mp.weixin.qq.com/s/kf3mhAhvOY-wJFH48VMpwg
（3）快到起飞 | PP-LCNet在CPU上让模型起飞，精度提升且比MobileNetV3+快3倍
链接：https://mp.weixin.qq.com/s/PKJ8UQC6ADbLgFBkr07uHA

2.2 研究方向方面

2.2.1 目标检测

（1）Anchor-free目标检测综述—细数10种Dense Prediction网络
链接：https://mp.weixin.qq.com/s/bnsFXAwr26KF5Cq9jBdq1A

2.2.2 6D姿态跟踪

（1）谷歌X实习生最新开源：BundleTrack - 无需任何CAD模型的6D物体姿态跟踪算法
链接：https://mp.weixin.qq.com/s/V4wsWv_maTKonsZMOu-ozg

2.2.3 3D人体识别

（1）ICCV 2021 | 英伟达新研究：直接通过视频就能捕获3D人体动作！
链接：https://mp.weixin.qq.com/s/b3qJSrC-aevPlBc89GwCAw

2.2.4 人脸识别

（1）一文读懂3D人脸识别十年发展及未来趋势
链接：https://mp.weixin.qq.com/s/kEZYpPnqJiiLxqH-CIK-Zw

2.3 Opencv方面

（1）基于opencv实现模块化图像处理管道
链接：https://mp.weixin.qq.com/s/MIezX8BNfzfQkMLXfPORBA

3 行业&拓展阅读动态

3.1 行业动态

（1）用YOLOv5打造移动小屋！这些AI创意赛的作品，总有一款打动你！
链接：https://mp.weixin.qq.com/s/O4N17_6M83ef1mtDB0g0bQ
（2）移动端算法优化概述
链接：https://mp.weixin.qq.com/s/2aSspuY_UX2s1jO3qCNR5w

3.2 拓展阅读

（1）博导谈寒门子弟上大学：要相信双一流大学没有“废物”！
链接：https://mp.weixin.qq.com/s/5zFSDRSpb-GIz7Ev3myYOg
（2）神棍宇宙？发电机突破能量守恒定律，又一个「永动机」被打脸！
链接：https://mp.weixin.qq.com/s/r9jIxx3_gNTiaDMjqgwrKQ
（3）DeepMind又赢麻了！AI天气预报吊打气象台：1张GPU1秒预测1小时天气
链接：https://mp.weixin.qq.com/s/yReeX9gOrzakDCig3-0HdQ
（4）蚂蚁森林「偷能量」和「反洗钱」，用的竟是同一种技术！
链接：https://mp.weixin.qq.com/s/cVa4Mowus8vFaJOc_XR8bg
（5）“国民女友”华智冰——清华大学首个AI虚拟学生公开亮相，网友直呼惊艳
链接：https://mp.weixin.qq.com/s/fnIAls3wwwYICiiT8c5D_A

4 基础知识

（1）ONNX 浅析：如何加速深度学习算法工程化？
链接：https://mp.weixin.qq.com/s/HVOGtLhnag29UeZWHYciRw