- 博客(6)
- 收藏
- 关注
原创 支持向量机入门
我们可以将分割线表示为$w*x+b=0$的形式,其中w是向量,x是数据点,b是截距。在实际应用中,有些类别的数据点可能较少,或者某些数据点的重要性不同。核函数是一种将低维数据映射到高维空间的技术,它可以在低维空间中计算高维空间中的内积,从而避免了显式地计算高维空间中的数据。其中,p是多项式的次数。多项式核函数把原始空间中的数据映射到高维空间中的多项式空间中,可以处理一些非线性问题。以上约束条件可以简化为$y_i(w*x_i+b)\geqslant1$,其中$y_i$是数据点的分类标签。
2023-04-23 08:51:11
122
原创 逻辑回归在实际应用中的局限性和优化方法
Bagging(bootstrap aggregating)是基于自助采样的方法,通过随机从样本中采样生成多个子样本集,每个子样本集训练一个独立的分类器,最终的分类结果通过所有分类器的结果进行投票得出。常用的数据增强方法包括数据翻转、随机剪裁、随机旋转等。下面是一个简单的示例,使用sklearn库中的MLPClassifier函数,增加一个隐藏层,使用tanh激活函数,对于逻辑回归模型进行改进。Stacking是通过将多个不同的分类器的预测结果作为新的特征,再训练一个元分类器,从而得到更加准确的分类结果。
2023-04-20 08:55:09
1134
原创 逻辑回归基本思想及通用代码
sigmoid函数的值域为$(0,1)$,因此可以将模型输出的结果解释为样本属于某一类别的概率,即$h_{\theta}(x)$表示样本属于正类的概率,$1-h_{\theta}(x)$表示样本属于负类的概率。逻辑回归的优化问题可以通过梯度下降算法来求解,即从一个随机初始化的参数向量$\theta$开始,不断迭代更新参数,直到损失函数收敛或达到最大迭代次数。其中,$x^{(i)}$为第$i$个样本的特征向量,$y^{(i)}$为第$i$个样本的标签(0或1)。
2023-04-18 14:24:46
311
2
原创 SPSS简单介绍及入门
此外,还可以使用“数据”-“选择数据”选项对数据进行选择,使用“数据”-“排序数据”选项对数据进行排序等。例如,可以添加或删除变量、修改数据值等。修改数据值可以通过菜单栏中的“数据”-“选择数据”选项实现。SPSS分析完成后会生成分析结果,可以通过菜单栏中的“文件”-“打印”选项将结果打印出来,也可以通过“文件”-“保存”选项将结果保存在计算机中。SPSS的主界面分为两个部分,左边是“数据编辑器”窗口,右边是“输出窗口”窗口。在“数据编辑器”窗口中可以输入或编辑数据,在“输出窗口”窗口中可以查看分析结果。
2023-04-17 11:28:26
2554
1
原创 RBF神经网络基本思想
其中,$\mathbf{x}$表示输入向量,$\mathbf{c}_j$表示隐含层第$j$个神经元的中心,$\sigma_j$表示径向基函数的宽度参数。研究人员通过收集大量的水质数据,利用RBF神经网络模型进行建模,预测水质指标的变化趋势,从而帮助水利部门制定更加科学的水资源管理策略。输入层接收外部输入向量,隐含层中的神经元通过径向基函数对输入向量进行变换,输出层则根据隐含层的输出进行线性组合得到最终输出。总之,RBF神经网络是一种基于径向基函数的神经网络模型,其核心是径向基函数的变换。
2023-04-17 10:51:12
388
1
原创 BP神经网络入门
其中,输入层接收外部输入的数据,隐含层和输出层负责处理和输出数据。下面是一个简单的BP神经网络的代码实现,包括网络的初始化、前向传播、反向传播和训练过程。可以看到,BP神经网络能够很好地对数据进行分类,将圆内的数据归为一类,圆外的数据归为另一类。3. 根据输出层神经元的梯度以及隐含层神经元的输出值,计算隐含层神经元的梯度。4. 根据隐含层神经元的梯度以及输入层神经元的输出值,计算输入层神经元的梯度。4. 输出层的神经元将隐含层的输出值加权求和后,通过激活函数计算输出值。
2023-04-16 09:09:52
586
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人