深度学习指的是训练神经网络,并且leave大于等于3的规模的神经网络。
ReLU(修正线性单元)函数:最开始一段函数得到的值为0,达到一个点后呈现出一元线性函数特性。
神经网络最简单的是单神经元网络,包括输入、神经元、输出,更大规模的神经网络,就是由这样的神经元堆积起来的。
在监督学习中,输入x,习得一个函数,映射到输出y。
CNN(卷积神经网络),常用于图像数据处理。
对于序列数据,如一维时间序列,经常使用RNN(循环神经网络),更复杂的有RNNs
custom/hybrid neural network architecture (混合神经网络结构)
结构化数据,数据的数据库,每一项的数据都有清晰的定义。
非结构化数据,如音频和图片,它们的特征不清晰,同时具有多个特征。