机器学习

机器学习:算法（数学和统计学）反映数据背后隐藏的客观规律    拟人

可分两大类：即监督类，非监督类。

可分五类：聚类，分类，回归，推荐，降维。其中一个重要算法为神经网络。

深度学习：神经网络是三层以上后面

人工智能：机器学习的一个应用方向与技术无关。

数据挖掘：机器学习的一个应用方向找到数据背后隐藏的客观规律

云计算：PAAS  SAAS  IAAS

深度学习是一个综合技术

1、卷积Conv-，池化Pool-和全连接层Fully-Connected Layers

2、ReLu激活函数

3、更深的网路层次，更多的参数

4、新的网络层（DWConv，SPConv，Group Convolution）和结构（Skip Connection，Dense Connection）

5、新的防止过拟合和技术（DropOut，Image Augmentation）

6、更大的训练数据和计算设施（千万级别的数据，GPU分布式计算）

深度学习在计算机视觉中的应用：

1.Classification（分类识别）每一幅图包含一种类别的物体   最后一层是Softmax层    

2.Classification+Localization     Bounding box Regression回归+Class Recognition

https://arxiv.org/abs/1312.6229

3.Object Detection  物体检测：一幅图包含多个物体，物体属于多种类别，需要定位出来，并识别类别

       R-CNN,    Fast R-CNN,  Faster R-CNN,   

       YOLO;       SSD

4.Instance Segmentation   边界检测

5.压缩  Auto-encoders,  Self-organizing maps

6.生成图像描述Image Captioning  结合递归神经网络NLP

7.图像风格化转移  Image Stylization

8.基于内容的图像检索Image Retrieval 

总结

1、更强大，自动从数据学习特征，无需手动提取特征：节约成本，并且更好（自动提取了空间和图像结合的特征，人脑无法想象）

2、更深的网络具有较好的能力，需要防止过拟合

3、更大的数据量  数据质量 数据标注

 

PyTorch=Tensorflow+Keras功能https://github.com/yuan776/deep-learning-with-python-cn/blob/master/SUMMARY.md

PyTorch强项在于做动态图比较好，Tensorflow强项在于做静态图比较好

nltk自然语言工具包     Pillow做图像处理的一些库与opencv功能重叠