AI工程师修行之路
言有三
龙鹏,笔名言有三,先后就读于华中科技大学(2008-2012),中国科学院半导体研究所神经网络实验室(2012-2015),先后就职于奇虎360人工智能研究院(2015.7-2017.5),陌陌科技深度学习实验室(2017.5-2019.3),深度学习算法专家,阿里云MVP,华为云MVP,超过7年的计算机视觉从业经验,拥有丰富的传统图像算法和深度学习计算机视觉项目经验,运营技术公众号《有三AI》,著有书籍《深度学习之图像识别:核心技术与案例实战》,《深度学习之模型设计:核心算法与案例实践》,《深度学习之人脸图像处理:核心算法与案例实战》,《深度学习之摄影图像处理:核心算法与案例精粹》
展开
-
【AI不惑境】深度学习中的多尺度模型设计
大家好,这是专栏《AI不惑境》的第七篇文章,讲述计算机视觉中的多尺度问题。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追...原创 2019-07-22 17:45:36 · 5232 阅读 · 0 评论 -
【AI不惑境】计算机视觉中注意力机制原理及其模型发展和应用
大家好,这是专栏《AI不惑境》的第七篇文章,讲述计算机视觉中的注意力(attention)机制。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说...原创 2019-08-01 00:00:49 · 4677 阅读 · 0 评论 -
【AI不惑境】模型剪枝技术原理及其发展现状和展望
大家好,这是专栏《AI不惑境》的第九篇文章,讲述模型剪枝相关的内容。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么...原创 2020-04-22 18:24:28 · 2427 阅读 · 0 评论 -
【AI不惑境】模型量化技术原理及其发展现状和展望
大家好,这是专栏《AI不惑境》的第十篇文章,讲述模型量化相关的内容。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么...原创 2020-05-17 22:35:18 · 1684 阅读 · 0 评论 -
【AI不惑境】AutoML在深度学习模型设计和优化中有哪些用处?
大家好,这是专栏《AI不惑境》的第十二篇文章,讲述AutoML在深度学习模型设计和优化相关的内容。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模...原创 2020-05-25 18:01:23 · 1363 阅读 · 0 评论 -
【通知】有三AI更新420页14万字视觉算法工程师成长指导手册,可下载收藏打印...
各位同学,可还记得我们发布的《深度学习视觉算法工程师成长指导手册》,现在更新了,超过14万字,420页文档,可下载收藏打印,目录如下,文末提供了下载方式。手册简介目前深度学习在图像,语音...原创 2020-05-29 17:04:16 · 1021 阅读 · 1 评论 -
【AI不惑境】网络深度对深度学习模型性能有什么影响?
大家好,这是专栏《AI不惑境》的第二篇文章,讲述模型深度与模型性能的关系。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 言有三深度学习模型之所以在各种任务中取得了成...原创 2019-04-27 22:32:19 · 2120 阅读 · 1 评论 -
【AI初识境】给深度学习新手开始项目时的10条建议
这是专栏《AI初识境》的第12篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。在成为合格的深度学习算法工程师,尤其是工业界能够实战的调参选手之前,总会踏足很多的坑。今天就来说说那些需要掌握的基本技巧,如何避开那些新手常见的坑,以计算机视觉中的图像分类任务为例。请注意,这篇文章不是教你如何调参,而是教你不要在调参之前胡搞。作者&编辑 | 言有三1...原创 2019-03-28 16:47:10 · 550 阅读 · 0 评论 -
【完结】12篇文章告诉你深度学习理论应该学到什么水平
专栏《AI初识境》正式完结了,在这一个专题中,我们给大家从神经网络背景与基础,讲到了深度学习中的激活函数,池化,参数初始化,归一化,优化方法,正则项与泛化能力,讲到了深度学习中的评测指标,优化目标,以及新手开始做训练时的注意事项。消化完这12期文章后,你肯定具备了扎实的深度学习理论基础,接下来就大胆地往前走吧,下面再次回顾提炼一下主要内容。作者&编辑 | 言有三1、...原创 2019-03-30 21:57:30 · 1262 阅读 · 0 评论 -
【AI初识境】深度学习模型评估,从图像分类到生成模型
文章首发于微信公众号《有三AI》【AI初识境】深度学习模型评估,从图像分类到生成模型这是《AI初识境》第10篇,这次我们说说深度学习模型常用的评价指标。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。凡事用数据说话,一个深度学习模型在各类任务中的表现都需要定量的指标进行评估,才能够进行横向的PK比较,今天就来说说分类,回归,质量评估,生成模型中常用的指标,以计算机视觉任务为例...原创 2019-03-23 14:16:44 · 2693 阅读 · 0 评论 -
【AI初识境】如何增加深度学习模型的泛化能力
文章首发于微信公众号《有三AI》【AI初识境】如何增加深度学习模型的泛化能力这是专栏《AI初识境》的第9篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。今天来说说深度学习中的generalization问题,也就是泛化和正则化有关的内容。作者&编辑| 言有三1 什么是generalization机器学习方法训练出来一个模型,希望它不仅...原创 2019-03-13 18:50:04 · 1295 阅读 · 0 评论 -
深度学习的150多篇文章和10多个专栏推荐
文章首发于微信公众号《有三AI》创业第一天,有三AI扔出了深度学习的150多篇文章和10多个专栏文/编辑|言有三在这篇文章中,有三跟大家来聊一下有三AI和如何学习深度学习这件事儿。1概述自我介绍“有三AI”创始人网名言有三,本名龙鹏,本科就读于华中科技大学,硕士就读于中国科学院,先后就职于奇虎360AI研究院,陌陌深度学习实验室,6年多计算机视觉从业经验...原创 2019-03-11 07:54:40 · 1255 阅读 · 0 评论 -
【AI初识境】深度学习中常用的损失函数有哪些?
这是专栏《AI初识境》的第11篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。今天来说说深度学习中常见的损失函数(loss),覆盖分类,回归任务以及生成对抗网络,有了目标才能去优化一个模型。作者&编辑 | 言有三1 什么是损失函数在机器学习中,损失函数(loss function)是用来估量模型的预测值f(x)与真实值Y的不一致程度,损失函数越小...原创 2019-03-28 20:22:12 · 7987 阅读 · 2 评论 -
【AI不惑境】数据压榨有多狠,人工智能就有多成功
大家好,今天开始就进入了专栏《AI不惑境》的更新了,这是第一篇文章,讲述数据如何驱动深度学习。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 全能言有三深度学习成功源...原创 2019-04-09 23:34:45 · 565 阅读 · 0 评论 -
【完结】深度学习CV算法工程师从入门到初级面试有多远,大概是25篇文章的距离
文/编辑 | 言有三一直有同学希望我在公众号写写面试相关的东西,一直没写。我们不会开相关的板块,因为没有标准,容易引起争议,而且可能会加重大家的浮躁和焦虑。不过关于面试,有三还是有一些话可以说的,下面分两部分道来。1 老板喜欢什么人假如我是老板或者诚心为公司招聘优秀人才的面试官,我会喜欢拥有以下特质的人。这里说的是招聘一个算法工程师,一个能够为公司创造收益的人,简单起...原创 2019-04-27 22:21:56 · 13226 阅读 · 3 评论 -
【AI不惑境】网络宽度对模型性能有什么影响?
大家好,这是专栏《AI不惑境》的第三篇文章,讲述模型宽度与模型性能的关系。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 言有三上一期咱们说到深度学习模型之所以在各种...原创 2019-04-30 17:42:45 · 772 阅读 · 0 评论 -
【AI不惑境】学习率和batchsize如何影响模型的性能?
大家好,这是专栏《AI不惑境》的第四篇文章,讲述学习率以及batchsize与模型性能的关系。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 言有三前几期我们讲述了数...原创 2019-05-06 22:43:49 · 2773 阅读 · 0 评论 -
【AI不惑境】残差网络的前世今生与原理
大家好,这是专栏《AI不惑境》的第五篇文章,讲述残差网络的来龙去脉和背后的原理。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 言有三在深度学习模型发展史中,残差网络...原创 2019-05-15 22:26:24 · 1418 阅读 · 0 评论 -
【AI不惑境】移动端高效网络,卷积拆分和分组的精髓
大家好,这是专栏《AI不惑境》的第六篇文章,讲述卷积拆分和分组卷积的精髓。进入到不惑境界,就是向高手迈进的开始了,在这个境界需要自己独立思考。如果说学习是一个从模仿,到追随,到创造的过程,那么到这个阶段,应该跃过了模仿和追随的阶段,进入了创造的阶段。从这个境界开始,讲述的问题可能不再有答案,更多的是激发大家一起来思考。作者&编辑 | 言有三在移动端高效的模型设计中,卷积拆分和分...原创 2019-06-17 23:21:16 · 1374 阅读 · 0 评论 -
【AI白身境】只会用Python?g++,CMake和Makefile了解一下
文章首发于微信公众号《有三AI》【AI白身境】只会用Python?g++,CMake和Makefile了解一下今天是新专栏《AI白身境》的第六篇,所谓白身,就是什么都不会,还没有进入角色。对于大部分小白来说,因为python用的太爽,以致于或许都没有听说过CMake。python是脚本语言,而当前大量的AI算法都部署在移动端嵌入式平台,需要使用c/java语言,因此熟悉CMake和Ma...原创 2019-02-18 15:19:51 · 404 阅读 · 0 评论 -
【AI初识境】被Hinton,DeepMind和斯坦福嫌弃的池化,到底是什么?
文章首发于微信公众号《有三AI》【AI初识境】被Hinton,DeepMind和斯坦福嫌弃的池化,到底是什么?这是专栏《AI初识境》的第8篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。今天来说说深度学习中的池化问题,包含池化的种类,作用机制以及最新的思考。作者&编辑|言有三1池化还要不要了这一次咱们反着来,说说学术界对池化的最新...原创 2019-03-11 07:50:05 · 414 阅读 · 0 评论 -
【AI初识境】为了围剿SGD大家这些年想过的那十几招
文章首发于微信公众号《有三AI》【AI初识境】为了围剿SGD大家这些年想过的那十几招这是《AI初识境》第7篇,这次我们说说常用的优化算法。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。深度学习框架目前基本上都是使用一阶的梯度下降算法及其变种进行优化,在此基础上也发展出了很多的改进算法。另外,近年来二阶的优化算法也开始慢慢被研究起来。今天就来说说神经网络的优化相关的内容。...原创 2019-03-11 07:49:31 · 409 阅读 · 0 评论 -
【AI白身境】深度学习中的数据可视化
文章首发于微信公众号《有三AI》【AI白身境】深度学习中的数据可视化今天是新专栏《AI白身境》的第八篇,所谓白身,就是什么都不会,还没有进入角色。上一节我们已经讲述了如何用爬虫爬取数据,那爬取完数据之后就应该是进行处理了,一个很常用的手段是数据可视化。通过数据可视化,可以更加直观地表征数据,在深度学习项目中,常需要的数据可视化操作包括原始图片数据的可视化,损失和精度的可视化等。...原创 2019-03-01 07:25:37 · 392 阅读 · 0 评论 -
【AI白身境】学深度学习你不得不知的爬虫基础
文章首发于微信公众号《有三AI》【AI白身境】学深度学习你不得不知的爬虫基础今天是新专栏《AI白身境》的第七篇,所谓白身,就是什么都不会,还没有进入角色。对于深度学习,一个好的数据集可以说非常重要的,但是通常情况下我们并没有大量的数据,因此我们有必要掌握一定的爬虫知识,从而更好的准备训练数据集。作者|汤兴旺言有三编辑|汤兴旺言有三01前端网页基础...原创 2019-03-01 07:24:59 · 362 阅读 · 0 评论 -
【AI白身境】入行AI需要什么数学基础:左手矩阵论,右手微积分
文章首发于微信公众号《有三AI》【AI白身境】入行AI需要什么数学基础:左手矩阵论,右手微积分今天是新专栏《AI白身境》的第九篇,所谓白身,就是什么都不会,还没有进入角色。咱们这个系列接近尾声了,今天来讲一个非常重要的话题,也是很多的小伙伴们关心的问题。要从事AI行业,吃这碗饭,至少应该先储备一些什么样的数学基础再开始。下面从线性代数,概率论与统计学,微积分和最优化3个方向说起,配...原创 2019-03-01 07:23:43 · 643 阅读 · 0 评论 -
【AI白身境】计算机视觉都有哪些研究方向
文章首发于微信公众号《有三AI》【AI白身境】一文览尽计算机视觉研究方向今天是新专栏《AI白身境》的第10篇,所谓白身,就是什么都不会,还没有进入角色。相信看了前面的几篇文章后很多朋友已经等不及快速入行了,今天就来介绍一下计算机视觉的各大研究方向及其特点。所谓计算机视觉,即compute vision,就是通过用计算机来模拟人的视觉工作原理,来获取和完成一系列图像信息处理的机器。计...原创 2019-03-01 07:22:52 · 20304 阅读 · 1 评论 -
【AI白身境】搞计算机视觉必备的OpenCV入门基础
文章首发于微信公众号《有三AI》【AI白身境】搞计算机视觉必备的OpenCV入门基础今天是新专栏《AI白身境》的第五篇。曾经看过一个视频,树莓派自平衡机器人自动追着小球跑。不经让我脑子蹦出一个有趣的想法,可以做一个识别猫的机器人,让机器人跟着猫跑,有这样一个小东西陪伴喵星人一定很有意思。不过,首先你要有一只猫,其次,这个机器人不仅要有一双会视觉处理的眼睛,还一定要有一个坚强的外壳,...原创 2019-02-18 15:19:11 · 777 阅读 · 0 评论 -
【AI白身境】深度学习必备图像基础
文章首发于微信公众号《有三AI》【AI白身境】深度学习必备图像基础今天是新专栏《AI白身境》的第四篇,所谓白身,就是什么都不会,还没有进入角色。我们已经说了linux基础和python基础,接下来就要开始真正干活了。所谓万丈高楼平地起,正式从事深度学习技术的三大方向,图像,语音,NLP之前,自然要先了解各自的基础。笔者身处计算机视觉领域,所以这一期就跟大家说说必备的图像基础。作...原创 2019-02-18 15:18:35 · 822 阅读 · 0 评论 -
【AI白身境】学AI必备的python基础
文章首发于微信公众号《有三AI》【AI白身境】学AI必备的python基础今天是新专栏《AI白身境》的第三篇,所谓白身,就是什么都不会,还没有进入角色。上一篇给大家介绍了如何正确使用Linux,如何利用shell,vim,git这三大神器。相信大家也掌握的差不多了,今天就和大家分享下对于python,我们应该如何掌握,如何正确把它和深度学习完美的结合起来。作者|汤兴旺言有三...原创 2019-02-18 15:17:50 · 379 阅读 · 2 评论 -
【AI白身境】Linux干活三板斧,shell、vim和git
文章首发于微信公众号《与有三学AI》【AI白身境】Linux干活三板斧,shell、vim和git今天是专栏《AI白身境》的第二篇,所谓白身,就是什么都不会,还没有进入角色。上一篇给大家介绍了要想真正进入深度学习这个行业,必须要先学会使用Linux,今天就和大家说说我们应该如何使用Linux,如何利用shell,vim和git这三大神器。作者|汤兴旺言有三编辑|汤兴旺...原创 2019-02-18 15:16:40 · 474 阅读 · 0 评论 -
【AI白身境】究竟谁是paper之王,全球前10的计算机科学家
文章首发于微信公众号《有三AI》【AI白身境】究竟谁是paper之王,全球前10的计算机科学家今天是新专栏《AI白身境》的第十二篇,也是最后一篇了,作为最后一篇,我的想法是激励大家见贤思齐。本来想写篇必须关注的大佬,但是实在是太难写了,人太多也容易引起争议,那就用最权威的资料来,学术界公认的h-index排名。所谓H-index,就是high citations,简单来说就是论文被...原创 2019-03-02 15:05:45 · 2070 阅读 · 0 评论 -
【AI初识境】深度学习模型中的Normalization,你懂了多少?
文章首发于微信公众号《有三AI》【AI初识境】深度学习模型中的Normalization,你懂了多少?这是《AI初识境》第6篇,这次我们说说Normalization。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。数据经过归一化和标准化后可以加快梯度下降的求解速度,这就是BatchNormalization等技术非常流行的原因,它使得可以使用更大的学习率更稳定地进行梯度传...原创 2019-03-11 07:48:54 · 985 阅读 · 0 评论 -
【AI初识境】什么是深度学习成功的开始?参数初始化
文章首发于微信公众号《有三AI》【AI初识境】什么是深度学习成功的开始?参数初始化这是《AI初识境》第5篇,这次我们说说初始化。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。神经网络要优化一个非常复杂的非线性模型,而且基本没有全局最优解,初始化在其中扮演着非常重要的作用,尤其在没有BN等技术的早期,它直接影响模型能否收敛。可以说万事开头难,没有好的初始化的深度学习模型训...原创 2019-03-11 07:48:14 · 651 阅读 · 0 评论 -
【AI初识境】激活函数:从人工设计到自动搜索
文章首发于微信公众号《有三AI》【AI初识境】激活函数:从人工设计到自动搜索这是专栏《AI初识境》的第4篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。在神经网络中,有一个看似不起眼但是非常重要的概念,那就是激活函数。激活函数模型固然理解起来简单,但是也经历了从人工设计到自动探索的长足发展历程。作者&编辑|言有三01无处不在的激活函数...原创 2019-03-11 07:46:58 · 611 阅读 · 0 评论 -
【AI初识境】近20年深度学习在图像领域的重要进展节点
文章首发于微信公众号《有三AI》【AI初识境】近20年深度学习在图像领域的重要进展节点这是专栏《AI初识境》的第3篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。这是本系列的最后一篇非技术文章,我们总结一下深度学习技术在图像领域的重要历史性节点,本来打算语音,自然语言处理一起的,文章太长以后再谈。作者&编辑|言有三1前深度学习时代...原创 2019-03-11 07:46:06 · 697 阅读 · 0 评论 -
【AI初识境】从头理解神经网络-内行与外行的分水岭
文章首发于微信公众号《有三AI》【AI初识境】从头理解神经网络-内行与外行的分水岭这是专栏《AI初识境》的第2篇文章。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。这一篇,我们就说说神经网络基础,包括简单历史,核心原理与技术。作者&编辑|言有三1人工智能符号派与统计派上一次我们讲述了人工智能的完整历史,自从图灵提出了“机器智能”,达特茅...原创 2019-03-11 07:45:22 · 976 阅读 · 0 评论 -
【AI初识境】从3次人工智能潮起潮落说起
文章首发于微信公众号《有三AI》【AI初识境】从3次人工智能潮起潮落说起专栏《AI白身境》已经完结,今天开始这个系列的第二个专栏《AI初识境》。所谓初识,就是对相关技术有基本了解,掌握了基本的使用方法。第一篇,我们就来说说人工智能的简单历史,通常来说业界公认包括三个重要的历史阶段。作者&编辑|言有三01什么是智能智能,即Intelligence,那什...原创 2019-03-11 07:44:35 · 4398 阅读 · 0 评论 -
【完结】中国12大AI研究院,高调的低调的你pick谁
文章首发于微信公众号《有三AI》【完结】中国12大AI研究院,高调的低调的你pick谁专栏国内的《AI研究院》正式完结了,在这个专题中,我们和大家一起分享了国内12大研究院的背景,从最开始介绍的历史最悠久的微软亚洲研究院,到最后介绍的低调务实的网易人工智能,我们带大家领略了每个研究院的研究方向,团队情况,欣赏了各大研究院的拳头产品。话不多说,这一次做一个回顾。作者|言有三汤兴旺...原创 2019-08-05 21:45:38 · 7645 阅读 · 0 评论 -
【完结】听完这12次分享,你应该完成了AI小白的蜕变
文章首发于微信公众号《有三AI》【完结】听完这12次分享,你应该完成了AI小白的蜕变专栏《AI白身境》正式完结了,在这一个专题中,我们给大家从Linux的基本知识,讲到了深度学习中必备的数学基础,从基本工具VIM和编译命令,讲到了常用的库OpenCV,从AI在工业界的各个研究方向,应用方向,讲到了AI领域的代表性人物,虽然知识本身的难度不高,但是覆盖范围非常广泛,这一次我们来重新回顾一下。...原创 2019-03-02 15:07:15 · 394 阅读 · 0 评论 -
【AI白身境】深度学习从弃用windows开始
文章首发于微信公众号《与有三学AI》【AI白身境】深度学习从弃用windows开始今天是新专栏《AI白身境》的第一篇,所谓白身,就是什么都不会,还没有进入角色。给大家准备了10期左右的文章来完成这个身份的转变,今天是第一篇,关于开发环境的选择(另外,接受粉丝们的意见,暂时以三天一篇的频率更新)。要想正式进入AI行业发展,离不开称手的软硬件兵器,其中操作系统就是“软”兵器,本文给大家...原创 2019-02-18 15:15:52 · 1998 阅读 · 0 评论