- 博客(11)
- 收藏
- 关注
RSS订阅原创 批标准化（batch normalization）的原理及其在训练、测试（验证）阶段下的行为
批标准化的原理、实现方式、在训练和测试（验证）阶段的不同行为及可能出现的问题。
2024-06-17 15:45:13
1513
1
原创 连续信号、离散信号的响应
利用计算机处理信号时，需要将连续信号采样为离散信号。如何仿真连续信号经过线性时不变系统后的响应，涉及到连续信号与离散信号之间、连续信号的FT与离散信号的DTFT(DFT)之间的关系。连续信号和离散信号的关系时域首先分析连续信号、离散信号在时域上的关系。考虑连续信号x(t)x(t)x(t)，离散信号由连续信号采样得到，可表示为x[n]=x(nTs)x[n]=x(nT_s)x[n]=x(nTs)，其中TsT_sTs为采样间隔。为理解二者之间的关系，考虑一个“中间过程”——利用单位脉冲信号δ(t)\
2022-05-22 17:09:13
587
2
原创 torch.gather与torch.scatter
在对数据处理时，可能需要在高维张量中选取部分数据、经过处理后再“放回”原张量中。这一操作可通过torch.gather与torch.scatter实现。torch.gather的定义为，torch.gather(input,dim,index,*,sparse_grad=False,out=None)->Tensor以三维张量为例，输入、输出之间可表示为，out[i][j][k]=input[index[i][j][k]][j][k] # if dim == 0out[i][j][k]=
2021-11-02 11:28:41
430
1
原创 决策树（Decision Tree）
决策树决策树是一种基本的分类、回归方法，呈树形结构。决策树定义如下：定义（决策树）： 分类决策树模型是一种描述对实例进行分类的树形结构。决策树由结点和有向边组成。结点有两种类型：内部结点和叶结点。内部结点表示一个特征或属性，叶结点表示一个类。决策树学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型，预测时，对新的数据，利用决策树模型进行分类。决策树的学习包括三个步骤：特征选择，决策树的生成和决策树的修剪。特征选择特征选择通过选取对训练数据具有更强分类能力的特征，提高决策树学习的效率。如果
2021-11-02 10:49:36
1127
原创 朴素贝叶斯法
朴素贝叶斯法学习与分类朴素贝叶斯法旨在通过学习联合概率分布P(Y∣X)P(Y|X)P(Y∣X)以学习生成数据的机制，属于生成模型。以分类问题为例，此时输出空间为类标记集合Y={c1,⋯ ,cK}\mathcal{Y}=\{c_1,\cdots,c_K\}Y={c1,⋯,cK}。若输入特征向量x\mathbf{x}x包括nnn个特征、每个特征x(j)x^{(j)}x(j)可能取SjS_jSj个值，则需要估计的参数数量为K∏j=1nSjK\prod_{j=1}^nS_jK∏j=1nSj，即具有指
2021-10-20 10:40:13
70
1
原创 k近邻法（k-nearest neighbor）
kkk近邻法kkk近邻算法算法（kkk近邻法）：输入：训练数据集T={(x1,y1),⋯ ,(xN,yN)}\mathcal{T}=\{(x_1,y_1),\cdots,(x_N,y_N)\}T={(x1,y1),⋯,(xN,yN)}；输出：实例xxx所属的类。（1）根据给定的距离度量，在训练集T\mathcal{T}T中找出与xxx最邻近的kkk个点，涵盖这kkk个点的xxx的邻域记作Nk(x)N_k(x)Nk(x)；（2）在Nk(x)N_k(x)Nk(x)中根据分类决策规则（如多
2021-10-19 20:28:10
237
原创 感知机（perceptron）
感知机感知机模型定义（感知机）：假设输入控件（特征空间）是X⊆Rn\mathcalX\subseteq\mathbb{R}^nX⊆Rn，输出空间是Y={+1,−1}\mathcal{Y}=\{+1,-1\}Y={+1,−1}，输入x∈X\mathbf{x}\in\mathcal{X}x∈X表示实例的特征向量，对应于输入空间（特征空间）的点；输出y∈Yy\in\mathcal{Y}y∈Y表示实例的类别，由输入空间到输出空间的如下函数：f(x)=sign(w⋅x+b),f(x)=\mathrm{sig
2021-10-18 17:48:49
112
1
原创 统计学习及监督学习概论
统计学习及监督学习概论统计学习以数据为研究对象，是数据驱动的学科。其基本假设为，同类数据具有一定的统计规律性。例如，在统计学习理论中，认为训练样本集与测试样本是独立同分布的。相同的分布使我们能够从训练样本中提取有关未知的测试样本的信息。统计学习的分类统计学习分为监督学习、无监督学习和强化学习。监督学习从训练数据集合T={(x1,y1),⋯ ,(xN,yN)}\mathcal{T}=\{(x_1,y_1),\cdots,(x_N,y_N)\}T={(x1,y1),⋯,(xN,yN)}中学习模型
2021-09-27 10:48:24
186
翻译 加权最小均方误差（weighted minimum mean square error, WMMSE）算法及Python实现
加权最小均方误差（weighted minimum mean square error, WMMSE）算法问题描述考虑MIMO系统中的下行链路，基站发射天线数为PPP，用户数为KKK，每个用户的接收天线数为QQQ。用户kkk的MIMO信道记为Hk∈C[Q×P]\mathbf{H}_k\in\mathbb{C}^{[Q{\times}P]}Hk∈C[Q×P]，则其在采样时间nnn时的接受信号可以表示为，yk(n)=Hkx(n)+vk(n),\mathbf{y}_k(n)=\mathbf{H}_k\m
2021-08-25 23:10:56
7397
22
原创 集成学习——线性判别分析
集成学习——线性判别分析线性判别分析由权重向量w\mathbf{w}w和偏差项bbb构成。给定样例x\mathbf{x}x，其按照规则y=sign(wTx+b)y=\mathsf{sign}(\mathbf{w}^\mathsf{T}\mathbf{x}+b)y=sign(wTx+b)预测获得类别标记yyy。为了寻找最优的线性分类器，其基本想法是使不同类的样本尽量远离，同时使同类样本尽量靠近。这一目标可通过扩大不同类别样本的类中心距离、同时缩小每个类的类内方差实现。以二分类问题为例进行说明，记所有正样
2021-07-30 11:27:32
200
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人