Deep Forest: Towards an Alternative to Deep Neural Networks (阅读笔记)

最新推荐文章于 2023-02-04 18:02:42 发布

xue_wenyuan

最新推荐文章于 2023-02-04 18:02:42 发布

阅读量2.7k

点赞数 1

分类专栏：文献阅读笔记文章标签：深度学习 gcForest 深度森林

本文链接：https://blog.csdn.net/xue_wenyuan/article/details/74059046

版权

文章介绍了深度森林（gcForest）作为一种替代深度神经网络的模型，它克服了深度学习在数据需求、运算性能和训练方面的缺点。gcForest采用级联森林结构，结合多粒度扫描技术，能够在多个尺度上提取特征。实验表明，gcForest在多个任务上的表现与深度神经网络相当，且需要的超参数更少，尤其适用于具有空间关系或连续性特征的数据。

摘要由CSDN通过智能技术生成

This is an original article. Please indicate reference if reproduced.

Introduction

首先，文中阐述了深度神经网络的一些缺陷，主要分为三个方面：
- 数据
- 有监督的深度学习方法通常都需要大量的数据用来训练，即使训练出来的模型是应用在小规模数据的任务上。
- 即使是在获得大量数据的情况下，通常也会面临数据标注的问题，因为大量数据的标注通常花费高昂。
- 运算性能
- 深度神经网络是非常复杂的模型，运算时需要大量的计算资源。
- 太多的超参数。
- 训练
深度神经网络的训练非常讲究技巧，需要多种配置的组合，但是对其进行理论分析却十分困难。

但是，深度神经网络有一个非常重要的能力：表征学习。值得注意的是，为了运用大量数据，学习模型的容量通常都很大，这里尤其是指“深度”。因此，作者推测可以将这种性质用到其他合适的学习模型上，也许能达到相当的效果。所以，本文就将神经元这个基本结构替换成的了决策树。