深度学习常规概念（持续更新）

本文针学习ML，DL过程中遇到一些常规的概念进行记录，记性差，只能以博客方式提醒自己；

一.常用数据集：

ImageNet:  http://www.image-net.org/signup.php?next=download-images   ，常常用于预训练用，初始化网络

ImageNet Large Scale Visual Recognition Challenge,它涵盖多个任务：

图像分类（Image Classification） 有1000类目标，训练集（1.2M），验证集（50K），测试集（150K）；

场景分类（Scene Classification）来自MIT的Place2数据集（图片10M+，分类400+），比赛收集了365个场景分类，训练集（8M），验证集（36K），测试集（328K）；

物体检测（Object Detection）；物体定位（Object Localization）；场景解析（Scene parsing）;

如想对 TensorFlow 获得更多了解，可参考下列资源：
·TensorFlow 官网 　其中包含最新的文档、 API 和入门材料。
·TensorFlow Github 代码库 　在此，可对 TensorFlow 的开源实现做出贡献，并直接对源代码进行审查。
· 官方发布的用 TensorFlow 实现的机器学习模型 　可原封不动地使用这些模型，也可稍加调整以适合自己的设计目的。
· 谷歌研究院的博客（ Google Research Blog ） 　提供了来自谷歌的有关 TensorFlow 的应用和更新的最新消息。
·Kaggle  　获取公开数据集并与其他从事数据分析工作的人开展竞赛的绝佳网站。
·Data.gov  　美国政府的门户网站，从中可找到全美国的公开数据集。

二. 深度学习技术：

ReLU,,Dropout

三.深度学习模型：

GoogLeNet： 2014年，ILSVRC分类错误率低至6.66%， 团队：Geffrey Hinton

Fast-RCNN: 基于Caffe实现，作者Ross Girshick

其他：

Docker: 快速环境部署；

大规模CPU集群：DisBelief (16000个计算节点构成)

Deep Residual Learning Framework: 深度残余学习框架

Torch与fbcunn： Yann LeCun带领Facebook与纽约大学展开合作诞生的开源深度学习项目；

IDL：百度深度学习实验室（Andrew Ng之前任职其中）；

阿里巴巴拍立淘：商品检索，华先胜牵头，突破点三要素：深度学习、大数据分析、大量用户反馈；装备了NVIDIA Tesla GPU，最新机型G4配备双Tesla M40作为加速器；

阿里旗下还有：搜索、OCR、绿网、神马语音、iDST业务，提供公共云上HPC服务；

腾讯：腾讯优图(BestImage)，人脸识别，五官定位，人脸识别，图像理解；深度学习基础框架：Mariana DNN、Mariana CNN、Mariana Cluster;

硬件：

NVIDIA2015与2016年推出面向深度学习的GPU加速硬件（Titan X,Tesla P100），加速库（cuDNN）,解决方案（DIGITS DevBox ,  DGX-1）

寒武纪芯片: