![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
机器学习
文章平均质量分 87
bit_100
分布式机器学习,联邦学习
展开
-
【机器学习】(西瓜书)第1章 绪论 & 第2章 模型评估与选择
一、 绪论1. 什么是机器学习(Machine Learning)?致力于研究如何通过计算的手段,利用数据(经验)来改善系统自身的性能。主要研究内容:是关于在计算机上从数据中产生“模型”(model)的算法,即“学习算法”(learning algorithm)——将经验数据提供给学习算法,学习算法就能基于数据产生模型;在面对新的情况时,模型会给我们提供相应的判断。(模型泛指数据中学到的结果。)2. 基本术语data set: 数据集,数据记录的集合。sample(or ins.原创 2022-03-16 01:39:55 · 766 阅读 · 0 评论 -
【总结】Clustered Sampling 小结
(2条消息) 【论文复现3】算法2——Clustered sampling based on model similarity_admin11111111的博客-CSDN博客https://blog.csdn.net/admin11111111/article/details/121072203#comments_19068693一、对于梯度的修改接着上篇的思路,只有在local_learning中对梯度进行修改才算是真正意义上的worker遭受到攻击。于是有下面的代码:def local_l原创 2021-11-29 00:39:25 · 2680 阅读 · 2 评论 -
【论文复现3】算法2——Clustered sampling based on model similarity
【论文代码复现2】Clustered sampling based on sample size_admin11111111的博客-CSDN博客https://blog.csdn.net/admin11111111/article/details/120817883接着上篇的来写。算法2流程:1. 根据梯度计算相似性矩阵,相似性用cosine来衡量。2. 对相似性矩阵进行层次凝聚聚类,cluster之间的距离用ward方式衡量。3. 根据聚类结果得到新的权重矩阵,(最大的10...原创 2021-11-15 01:01:53 · 1184 阅读 · 8 评论 -
【论文代码复现2】Clustered sampling based on sample size
【论文代码复现】Clustered Sampling: Low-Variance and Improved Representativity for Clients Selection in Fede_admin11111111的博客-CSDN博客https://blog.csdn.net/admin11111111/article/details/120499243上一篇文章最后留了一个疑惑,经过检验确实是有问题的,那样写逻辑是错误的。并不符合论文中将所有clients都采样的说法。然后在更改了epsil原创 2021-10-18 01:22:01 · 859 阅读 · 6 评论 -
多层感知机multiLayerPercetrons
目录1. 感知机:2. 常用非线性的激活函数3. 多层感知机——多隐藏层4. 代码实践1. 感知机:感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别。线性模型在处理一些问题时好用,但是在处理XOR问题时就出现了问题。因为线性模型无法将①④和②③同时分类,但是通过增加隐藏层来逐步分类,如上图黄线和蓝线,两个步骤就能分出来。所用感知机为单分类单隐藏层感知机。隐藏层需要非线性的激活函数,不然本质的运算还是线性模型。.原创 2021-09-20 00:19:54 · 837 阅读 · 0 评论 -
【聚类】专题总结——概览 + 划分聚类
目录一、 聚类的概念二、聚类分析中需要考虑的关键问题: 三、详细介绍1. 数据相似性2. 聚类优化方法(1)划分聚类(partitioning clustering) (2)层次聚类(hierarchical clustering) (3)基于数据密度的聚类(density based clustering) (4)基于空间网格的聚类(grid based clustering) (5)基于统计模型的聚类(model based ...原创 2021-09-12 23:37:20 · 3548 阅读 · 0 评论 -
softmax线性回归的简洁实现
1. 读取数据# 读取并加载数据集,定义load_data_fashion_mnist函数def load_data_fashion_mnist(batch_size, resize=None): """下载fashion-MNIST数据集,然后将其加载到内存中""" # ToTensor操作 trans = [transforms.ToTensor()] # 因为当前trans里面包含的图片tensor大小是28x28,到后面训练时需要更大一点的数组就用resize原创 2021-09-05 23:40:32 · 840 阅读 · 0 评论 -
【论文阅读】深度学习系统的对抗攻击及其对抗样本
目录前言 1. DeepXplore1.1 DeepXplore工作流程1.2 DeepXplore主要的贡献是:1.3 论文中的示例2. DEEP CONTRACTIVE NETWORK—深度压缩网络3. DeepFool参考文献:前言 传统软件需要测试,对于深度学习系统的对抗攻击会使得深度学习模型产生错误的行为,因此对于深度学习系统也需要测试。DLFuzz,是检测深度神经网络健壮性的差分模糊测试框架。...原创 2021-07-11 23:49:29 · 1861 阅读 · 2 评论 -
基于深度学习的三维人体姿态估计
目录一、技术背景1.1 人体姿态估计1.2三维人体重建1.4构建多人场景研究情况二. 技术方法2.1基础架构2.2重叠loss2.3深度顺序感知loss四.存在的问题与未来研究热点4.1 本实验方法存在的问题4.2 未来研究热点参考文献:一、技术背景1.1 人体姿态估计人体姿态估计(human pose estimation, HPE)已经发展了几十年,一直围绕着从传感器的输入来构建人体姿态。在摄影领域...原创 2021-07-04 23:41:43 · 4212 阅读 · 1 评论 -
线性回归模型
之前的线性回归模型预测波士顿房价的主要是利用Python的库函数来,也就是调包的。试考完了,就开始从头学了。这个逻辑似乎有点奇怪,不过因为平时做实验都是调包总觉得味同嚼蜡,不够味道。回到正题。线性回归是利用线性函数对自变量与因变量建立线性组合关系的回归分析。一个自变量对应一个因变量,则是一元线性回归;多个自变量则是多元线性回归。也就是使得输入数据集D中的数据满足其中就是线性回归模型的参数(超参数)。线性回归的目标就是使得恒成立。不过,在计算过程中总会有数据不是完全满足线性的要求,但是又.原创 2021-06-27 22:54:03 · 4469 阅读 · 0 评论 -
基于机器学习的新冠疫情预测模型
预测确诊患者数量的机器学习算法最小二乘准则(LSE)预测可以利用回归算法对确诊患者进行预测,有线性回归和非线性回归,根据SIR模型等一般的疫情传播模型。S 类,易感者,指未得病者;I 类,感病者,指染上传染病的人;R 类,康复者,指被隔离或因病愈而具有免疫力的人。线性回归明显是不符合整体疫情的走势,这里不做讨论。同时SIR模型对人群的分类不够细致,没有考虑政府等人为干预的情况,且模型中未引入反馈机制,所以需要对SIR模型进行改进来进行预测。因此在这里先利用最小二乘准测(least square er原创 2021-06-13 22:50:58 · 17402 阅读 · 5 评论 -
梯度下降法 线性回归方程
一、基础概念1.梯度下降法的原理梯度法思想的三要素:出发点、下降方向、下降步长。梯度方向:步长设为常数Δ:如果用在梯度较大的时候,离最优解比较远,W的更新比较快;然而到了梯度较小的时候,也就是较靠近最优解的时候,W的更新竟然也保持着跟原来一样的速率,这样会导致W很容易更新过度反而远离了最优解,进而出现在最优解附近来回震荡。所以用λ|W|来代替Δ,而这里的λ就是学习率。[1]在单变量的函数中,梯度其实就是函数的微分,代表着函数在某个给定点的切线的斜率 在多变量函数中,梯...原创 2021-05-16 22:47:06 · 966 阅读 · 0 评论 -
支持向量机SVM Iris数据集 分类预测
支持向量机对iris数据集进行分类预测1. 基础概念SVM的主要思想是:建立一个超平面作为决策平面,使得正例和反例之间的隔离边缘被最大化。SVM也是结构风险最小化方法的近似实现。2. 实验步骤与分析 序号 任务名称 任务具体要求 1 数据理解 理解数据集背景以及数据含义。 2 数据读入 可使用sklearn中自带的i原创 2021-05-09 22:09:43 · 12573 阅读 · 5 评论 -
线性回归 波士顿房价预测
线性回归对波士顿房价进行预测主要从以下八个方面来对本次内容进行实验。 序号 任务名称 任务具体要求 1 数据理解 理解数据集背景以及数据含义。 2 数据读入 使用pandas 读入数据并输出读入的数据 3 定义特征值,目标值 使用'crim', 'rm', 'l原创 2021-05-02 22:21:57 · 31263 阅读 · 7 评论