采样 -- 基本概念

**参考资料整理**

目录

什么是采样

一、采样的定义（in DL）

二、过采样与欠采样

三、上采样与下采样

四、子采样与重采样

        拓展 一点点：

---

一、采样的定义（in DL）

        在机器学习和统计学中，采样是从一个数据集中选取一部分样本用于模型训练或推断。采样可以是随机的也可以是确定性的，并且可以根据各种不同的采样策略进行操作。在深度学习中，采样通常用于生成训练批次、数据增强以及对抗生成网络等任务。在统计学中，采样可以用于从总体中获取样本来进行推断。

二、过采样与欠采样

2.1 过采样

        用高于奈奎斯特频率进行采样。好处是可以提高信噪比，缺点是处理数据量大，易冗余。过采样是使用远大于奈奎斯特采样频率的频率对输入信号进行采样。

2.2 欠采样

        当采样频率大于信号中，最高频率fmax的2倍时，即：,则采样之后的数字信号完整地保留了原始信号中的信息，一般取2.56~4倍的信号最大频率；采样定理又称奈奎斯特定理。
        欠采样是在测试设备带宽能力不足的情况下，采取的一种手段，相当于增大了测试设备的带宽，从而达到可以采样更高频率信号的能力。

2.3 区别与联系

        过采样和欠采样是指采样率的设置是否合适。如果采样率过高，则会出现过采样，过程采集到冗余的数据；如果采样率过低，则会出现欠采样，无法完整采集所需要的信号。因此，要根据具体情况设置合适的采样率。

三、上采样与下采样

3.1 上采样

        指按照一定比例增加采样率，即提高信号的时间分辨率。上采样是下采样的逆过程，也称增取样（Upsampling）或内插（Interpolating）。增取样在频分多路复用中的应用是一个很好的例子。如果这些序列原先是以奈奎斯特频率对连续时间信号取样得到的，那么在进行频分多路利用之前必须对它们进行上采样。

3.2 下采样

        指按照一定比例减少采样率，即降低信号的时间分辨率。对于一个样值序列间隔几个样值取样一次。这样得到新序列就是原序列的下采样。下采样就是抽取，是多速率信号处理中的基本内容之一。
        在不同应用场合，下采样可带来相应的好处：

        以在最常见的数字接收机中为例，最后要得到的基带信号的采样率等于符号速率。这个速率是比较低的，但通常的做法并不是直接以这个采样率对模拟信号进行采样，而是采用高的多（几十甚至上百倍）的采样率，这样可以提高采样得到的信号的信噪比，然后再用数字的方法对信号进行多级的滤波和抽取，直到最后信号的采样率与符号速率相等。这样处理可以获得的信噪比增益为最初采样率与最后输出信采样率之比。

3.3 区别与联系

        通常所说的采样指的是“下采样”，也就是对信号的抽取。其实，上采样和下采样都是对数字信号进行重采，其采样率与原先获得该数字信号（比如从模拟信号采样而来）的采样率比较，大于原信号的称为上采样，小于的则称为下采样。上采样的实质也就是内插或插值。

四、子采样与重采样

4.1 子采样

        对彩色电视图像进行采样时，可以采用两种采样方法。一种是使用相同的采样频率对图像的亮度信号和色差信号进行采样，另一种是对亮度信号和色差信号分别采用不同的采用频率进行采样。如果对色差信号使用的采样频率比对亮度信号使用的采样频率低，这种采样就称为图像子采样(sub-sampling)。

拓展 一点点：

在CV领域：

解释卷积和二次采样层之间的区别：

        主要区别在于卷积是一种旨在从输入中提取特征的运算，而子采样的目的只是为了减小输入的尺寸。在标准CNN中，卷积层具有可训练的参数，这些参数在训练过程中进行了调整，而子采样层是一个恒定的操作（通常由最大池化层执行）。在CNN中，此最大合并通常有助于向模型添加一些空间不变性。

        卷积：您有一个特定大小的过滤器。输出是此滤波器与输入的不同区域（大小相似）的按元素乘积。可以使用卷积滤波器的跨度来对输入执行子采样。

例如：对于7x7输入，在跨度为2像素的一张图像中，得到3x3的输出。

        从技术上讲，将子采样作为卷积层的一部分，但是子采样是不可训练的（步幅大小是恒定的）。

        在谈论子采样层时（可能就是您发布的图像中的情况），其含义是最大池化层，与卷积类似，它也具有过滤器和一定步幅。但是，没有可训练的权重（输出只是每个区域的最大像素）：

4.2 重采样

        重采样是指将一个信号的采样率改变成另一个采样率的过程。在数字信号处理中，重采样通常用于改变信号的时间长度或频带宽度。

举一个栗子

        举例来说，一段正弦波信号，其采样率为10Hz，采样点数为20个，采样时间为2s。如果执行下采样操作，将采样率降低到5Hz，采样点数会被减半，变为10个，且采样时间也相应缩短为1s。如果执行上采样操作，将采样率提高到20Hz，采样点数会增加一倍，变为40个，且采样时间相应延长为4s。如果执行重采样操作，将采样率改变为另一个非整数倍的采样率，如从10Hz改变到7Hz，需要按照一定的插值算法进行补偿，才能正确地还原原始信号。