- 博客(74)
- 资源 (3)
- 问答 (1)
- 收藏
- 关注
RSS订阅原创 联邦学习系列---读书个人总结
联邦学习基于分布式数据集建立模型，包括训练和推理，训练可以交换相关信息或者加密形式交换，但是不包括数据。Note有两个或以上的参与方协作构成建一个共享的机器学习模型训练过程中，数据不离开参与方相关信息可以以加密的方式传输或传换，并且不能通过这些信息推测出其他方的原始数据性能充分逼近理想模型例：有N个参与方{Fi}和N个数据集{Di传统：将所有的数据集传送到云服务器，进行训练，得到模型Msum联邦：各个参与方Fi在本地训练数据集，形成模型，与聚合器多次交互，得到模型MFED。
2022-09-24 14:29:09
688
1
原创 人工智能的隐私保护探讨
人工智能是个广泛而火爆的概念，包括机器学习等算法在各种领域间的落地应用，为我们生活和学习带来了不一样的体验，例如，VR（虚拟现实）、元宇宙为我们带来了亲身体验，隐私是一个相对的概念，每个人的界定不同，尤其人工智能新技术新产品的不断涌现，必将存在更大的挑战与风险，我们能做好的只有在必要的条件下最小化的利用隐私。
2022-09-21 18:50:59
1101
原创 模型介绍-----MLP
M-P 模型是一个神经元结构，但是没有参数学习的过程；感知机将训练数据进行线性划分的分离超平面，引入损失函数，利用梯度下降法对损失函数进行极小化，求感知机模型，在此并提出了学习的概念，但无法解决异或运算；多层感知机通过增加层数解决非线性问题，直到1986年Hinton提出了反向传播算法，使得训练多层网络成为可能。...
2022-06-12 10:54:36
9407
转载 群体智能中的联邦学习算法综述---简笔记（除安全类）
群体智能中的联邦学习算法简述介绍群体智能与联邦学习的关系联邦学习框架分类中心化联邦半中心化联邦去中心化联邦（未涉及区块链等隐私的研究，所以未总结）精度优化泛化性优化收敛性优化效率优化模型神经网络开源平台（FATE[86]、TFF（TensorFlow federated）[87]、PySyft [88]、FedML [89]、Flower [90]）隐私应用[1]杨强,童咏昕,王晏晟,范力欣,王薇,陈雷,王魏,康焱.群体智能中的联邦学习算法综述[J].智能科学与技术学报,2022,4(01):29-44.
2022-05-22 15:07:26
2559
1
原创 云计算到底是什么，一文初始【详】
网络类型摘自计算机科学导论网络类型物理拓扑：网络在物理上的布置方式。——网状型：每个设备都有专用的点对点链路与其他设备相连。优点：比较健壮，单条链路坏了不会影响全局，缺点：电缆数量和输入/输出口的数量。——星型：每个设备有专用的点对点链路，与集线器的中央控制器相连。主流，依赖单点，当集线器停机，则整个网络不工作。——总线型：多点链路总线影响整个网络。——环型：只与两端设备相连，信号以一个方向传输到另一个设备，中间连接一个中继器。优点：易安装和重构缺点：环断裂使整个网络不可
2022-03-08 21:45:17
2830
原创 python神经网络入门---读书笔记（1）简单的神经网络
Neural Networks神经网络：一种能够模仿人类的认知过程的数学模型，例如 AlphaGo、识别玩具，深度学习训练玩游戏，过滤垃圾短信。#矩阵的点乘A = [ ]for i in range(3): A.append([ ]) for j in range(3): A[i].append(1)# print(A)B = [ ]for i in range(3): B.append([ ]) for j in range(3): B[i].append(2)# prin
2022-03-05 23:54:33
112
原创 2021 末尾冒了个泡
快奔3了，总体来说，学业还是比较顺利的，求学路上充满偶然，但都是幸运的偶然。主要分三个方面吧，时间横跨2021-20222021 学习的新技术python画图，以前总看别人的论文图特别好看，但是不知怎么画的，自己就觉得很恐怖，在2021年，我终于学会了！原理就是训练时候把每一轮的精度保存成坐标的形式，最后用画图命令画出来，通过加入各种参数，调整图的线、光滑度！很有成就感！（举例）微信公众号，自己从0到现在的687个粉丝，通过不断地调整内容，变换排版，学习知识丰富内容，未来继续加油。
2022-01-26 00:07:11
1055
原创 机器学习中的一些用语
ground truth在机器学习中，“ground truth”一词指的是训练集对监督学习技术的分类的准确性。这在统计模型中被用来证明或否定研究假设。“ground truth”这个术语指的是为这个测试收集适当的目标（可证明的）数据的过程。logits在深度学习中，logits就是最终的全连接层的输出，所有logits共同减去一个数字，其得到的softmax结果是不变的，所以得到的logits并不一定与原始logits一模一样，而是会相差一个常数。logits就是不必担心值在0和1之间、各
2021-12-09 14:39:08
887
原创 联邦学习实战---读书笔记
概述图像处理：卷积网络自然语言处理：BERT推荐系统: 科技公司分析历史数据互联网数据中心预测互联网数据2021年达到50ZB，2025年达到175ZB数据–燃料—资产（提升产品质量、企业不良贷款）—大数据交易。难共享–依赖数据的人工智能难发展—为深度算法提供燃料----提供对比基准实际数据规模小、缺重要信息----高质量数据太少数据不动模型动、数据可用不可见1联邦学习：在模型训练过程中，模型的相关信息（模型参数、模型结构、参数梯度）在各参与方之间交换（明文、数据加密、添加噪声）狭义
2021-12-09 11:29:27
557
原创 辩证看待各种关系（三）
该系列最后一版，配图均为最近看过的电影。素材来源于生活中遇到的事情，三期总共抽取出7种关系，仅本人观点。发言流畅与思维的关系—《The equation》现实生活中，侃侃而谈的人我们会觉得非常聪明、有魅力的。实际上，这是一个渐变的过程，对于两个人或者一人对多人的讲话场景。（1）两个人聊天（朋友、家人、同事），基本不存在卡顿、害羞、紧张等，都是侃侃而谈的。（2）往往在一人对多人的情况更为明显，此处忽略社牛等特殊情形，场景例如：作报告，剧本杀，KTV，伴随着目的、听众等因素，会产生不同的心
2021-12-07 20:26:01
292
原创 辩证看待各种关系（二）
接着上一部分，继续，该部分预计也就三期吧，积累也没那么多。最近看了一些博弈论，想为自己找一些灵感（jiehe），从智慧故事、理论还有图文理解类型的资料，有一定的认知理解，还有待打磨。1.“你有的”和“你想要的”。（来源B站的一个UP主~）其实说白了就是现在和未来的关系，目标一致性和可行性的关系。不同人群立场不同，不能感同身受和换位思考，说教式聊天只会越来越糟（避免，还不如不聊天）。需要循序渐进，不能亮底牌，教书可以走脑，育人必须走心。其实我不是很赞同这种，因为很多都是从成功案例提取出来的（目标
2021-12-07 20:22:07
280
原创 辩证看待各种关系(一)
近期，和朋友们讨论了很多关于焦虑、毕业、规划的问题，总结了一些关系，与大家分享。.1 兼职、学习、娱乐之间的关系。兼职–学习：从大一到毕业一直困扰着我们，我们普遍会认为这两者是相互矛盾的，兼职影响学习时间，只学习不兼职缺乏锻炼自己，接触社会，反复内心博弈。最终随着时间，大部分都放弃了兼职。但是忽略了娱乐因素，导致我们认知中的选择难题：学习/兼职能共存吗，怎么样选择是对我最利的？接着再看这个图：现在呢，引入了娱乐因素，这样看起来更加复杂，但是清晰了。黑：原始的鱼和熊掌可能兼得，但不一定都饱
2021-12-06 14:36:39
199
转载 上海数据交易所成立
为贯彻落实国家大数据战略，加快培育数据要素市场，促进数据流通交易，助力城市数字化转型，11月25日，上海数据交易所揭牌成立仪式在沪举行并达成了部分首单交易。据了解，25日上海数据交易所受理挂牌和完成挂牌的数据产品约100个，涉及金融、交通、通信等八大类，达成了部分首单交易，包括工商银行和上海电力达成交易的"企业电智绘"数据产品以及民用海图服务产品等。 上海数据交易所的设立，重点是聚焦确权难、定价难、互信难、入场难、监管难等关键共性难题，形成系列创新安排。在上海数据交易所揭牌成立的同时，普华永道作为
2021-11-25 14:38:27
226
原创 数据集分类
图像分类包括（20）：人、鸟、猫、牛、狗、马、羊飞机、自行车、船、公共汽车、骑车、摩托车、火车瓶子、椅子、餐桌、盆栽植物、沙发、电视/显示屏任务类型：分类探测分割动作分类：跳跃、打电话、演奏乐器、阅读、骑自行车/摩托车、骑马、跑步、拍照片、使用电脑、走路。大规模识别域迁移：最小目标损失（测试误差）=源损失+（源-目标）分布差异+H的复杂度...
2021-10-19 20:40:01
301
原创 数据的认知
数据不仅指数字、有意义的文字、字幕、数字符号的组合、图形、图像、视频和音频等，也是客观事物的属性、数量、位置及相关关系的抽象表示。机器学习流程：数据-—>经验-——>模型（结果）例：x=1,y=1,z=1x=2,y=2,z=2x=3,y=3,z=3上表组成一个样本空间，x,y,z是属性/特征，1,2,3 是属性值，每一行称为一组特征向量，用来表示一个示例或样本。改写一下：IDxyz11112222333
2021-10-14 11:08:00
289
2
原创 pytorch 入门级项目的感悟
花了两天时间学习了基础卷积网络结构和pytorch实现，先放一个最经典的压压惊遇到的问题1、 sublime的代码用Pycharm打开，空格处可能会出现特殊字符，去掉。2、在运行过程中，cuda 要选择 gpu,cpu，可能会出现 ValueError: num_samples should be a positive integer value, but got num_samples=0； RuntimeError: CUDA error: CUBLAS_STATUS_ALLOC_FAILED
2021-08-25 15:58:11
201
原创 Win10 蓝牙图标消失，开不开蓝牙
最近遇到蓝牙突然消失，怎么找也找不到，耳机准备好了，电脑的蓝牙没了，好气。废了半个小时，终于解决了。s设置->安全与更新->检查更新更新重启，解决
2021-08-24 15:17:32
462
原创 致入门 Latexer 的秘诀：（缺啥补啥）
遥想当年学驾照，倒车入库分不清方向盘怎么打，于是乎，发生了下面的对话我：教练，这个打方向有什么秘诀吗？教练说：想往哪打往哪打。我：？？？，能不能好好教？教练说：你品，你细品。我：直呼内行！致入门Latexer：不需要全部精通，明确基本框架，从错误中完善自己的输出，也就是上面的（缺啥补啥，要啥加啥）。实不相瞒：素材来自B站视频，话不多说上图（截图）：文字解说翻译：导言区article/book/report/letter（换着变，试试）%宏包 % \usepackage{cte
2021-08-21 13:59:21
131
原创 为什么学习Latex
Word当然是可以处理一切排版问题。刚刚和朋友吃饭时候，朋友说：可以提高效率花点钱买好设备，难道不值吗？然后我就联想到为什么能用word，用latex干嘛？对于文科，可能word比latex好用，但是一些中文期刊也会有latex模板的。今天解析一下：文献调整崩溃中。体会最深的一点，参考文献的插入，不知看到本文的同学们，你们有没有在word插文献，调整文献位置崩溃（引用位置，文末编号，总体编号）的经历。在Latex中，只要\cite{}命令挨着句子，你的编号就永远不会乱，都是自动编号的。这一点有没有很诱
2021-08-18 11:38:19
630
原创 Arxiv--LATEX
要点（新知识）：arxiv 可以下载各大会议/期刊的模板，但是都是往期的。对于下载的文件，需要修改名称，文件名加.zip，一般拿过来可以直接用。arxiv是pre-print版，与投的期刊/会议接受的最终版还是有一定差距的，但是这里有比较多的想法和前沿的东西。arXiv 是一个收集物理学、数学、计算机科学、生物学与数理经济学的论文预印本的网站，始于1991年8月14日。截至2008年10月，arXiv.org已收集超过50万篇预印本[2][3]；至2014年底，数量达到1百万篇。截
2021-08-14 11:07:30
1350
原创 overleaf 推荐
最近开始整理资料，要用tex了，开始用overleaf 了。（其实和之前讲的都是一样，都是编译器而已）Overleaf是一个Latex在线文档，进行多人协同编辑的平台（对方登录你的账号，相当于是邮箱的作用），有LaTeX插件，编辑功能十分完善，可以先从github上下载你需要的模板（zip格式）。注册Overleaf，登录，上传压缩包，就可以愉快的编辑啦~如图，左侧是zip里的所有文件，中间是源码，右侧是编译生成的pdf, 提醒一下：他不是说你源码改动一下自动更新，需要手动点击右侧上方的complie
2021-08-13 10:35:43
1287
原创 Markdown----创作中心教程
Markdown是一种轻量级标记语言，排版语法简洁，使用易读易写的纯文本格式编写文档，可与HTML混编，可导出 HTML、PDF 以及本身的 .md 格式的文件。因简洁、高效、易读、易写，Markdown被大量使用，如Github、Wikipedia等网站，如各大博客平台：知乎、简书、CSDN等。读取.md 格式的文件可以用“记事本”、“写字板”或你最喜欢的文本编辑器，因为Markdown文档已经存在了很长时间，它被广泛支持。专门打开软件：markdown view 等，效果如下，可以在Micrso
2021-08-09 21:11:06
209
原创 百度飞浆ai创造营学习笔记（一）
创意本期的第一课主要是创意的来源，三位小哥哥讲述了创意来源，思路和最后的验证，都可以落地，很有意思，对于我这样的小白很有启发。组合各种图像、以及语言，视频的拼接等。复刻游戏复刻特效复刻效果复刻项目1.趣味机器人—熊猫头表情聊天分割+检测2。 安全帽检测模型树莓派->编译3. 垃圾分类4. AI看图写诗三个不同的来源，思路很明了，为以后产生创意获得启发。...
2021-07-27 14:44:25
167
2
原创 热力图，数据库和数据仓库
热力图数据表里多个特征两两的相似度输入数据参数：矩阵，array, dataFrame(df)df.index, df.column = heatmap.column, heatmap.rowsvmax,vmin 对应颜色取值的范围热力图矩阵块注释参数annot数据库传统的关系型数据库的主要应用，主要是基本的、日常的事务处理，例如银行交易。数据库通常追求交易的速度，交易完整性，数据的一致性，数据库比较流行的有：MySQL, Oracle, SqlServer等。数据库(Datab
2021-07-27 11:37:19
757
原创 学习率、最小批和 Epoch
学习率学习率(Learning rate)作为监督学习以及深度学习中重要的超参，其决定着目标函数能否收敛到局部最小值以及何时收敛到最小值。合适的学习率能够使目标函数在合适的时间内收敛到局部最小值。固定学习率时，当到达收敛状态时，会在最优值附近一个较大的区域内摆动；随着迭代轮次的增加而减小学习率，会使得在收敛时，在最优值附近一个更小的区域内摆动。学习率的调整1 离散下降深度学习来说，每 t 轮学习，学习率减半。对于监督学习来说，初始设置一个较大的学习率，然后随着迭代次数的增加，减小学习率。
2021-07-26 15:24:26
1944
原创 python 相关包学习（一）
函数zipzip() 函数用于将可迭代的对象作为参数，将对象中对应的元素打包成一个个元组，然后返回由这些元组组成的列表。如果各个迭代器的元素个数不一致，则返回列表长度与最短的对象相同，利用 * 号操作符，可以将元组解压为列表。在 Python 3.x 中为了减少内存，zip() 返回的是一个对象。a = [1,2,3]b = [4,5,6]c = [4,5,6,7,8]zipped = zip(a,b) # 打包为元组的列表[(1, 4), (2, 5), (3, 6)] zip
2021-07-20 19:47:35
112
原创 脚本和shell
脚本语言脚本语言基于更高层的开发逻辑和设计方式来解决问题实现编程，不必涉入数据结构这些与底层和解决大家都解决过的问题直接相关的东西，仅提倡在复用层面利用这些解决过的东西能编程就可以了抽象的语言，意味着它可以少干些轮子重造方面的事情。脚本英文为Script。实际上脚本就是程序，一般都是有应用程序提供的编程语言。应用程序包括浏览器(JavaScript、VBScript)、多媒体创作工具，应用程序的宏和创作系统的批处理语言也可以归入脚本之类。脚本同我们平时使用的VB、C语言的区别主要是：1、脚本语法比较简
2021-07-18 12:00:31
123
原创 联邦学习论文汇总---十六
Client-Edge-Cloud Hierarchical Federated Learning客户端–云分层联邦学习背景1.云或边缘只有一个中心参数服务器，2.深度学习在强大的计算平台训练，终端设备生成和分发转移到中央服务器时，违反隐私问题。创新点1.允许多个边缘服务器执行部分模型聚合，2.引入中间边缘服务器，减少模型训练时间和终端设备的能量消耗3.基于边缘的联邦学习，参数服务器位于邻近边缘（基站），但是服务器访问的客户端数量有限，训练性能损失。4.与云边端相比，分层的联邦学习减少与云
2021-06-04 11:44:22
1454
转载 latex 系列2
由于刚开始，不免有些激动，忽略了一些细节，应读者要求，今天主要为大家带来Latex的下载，安装和基本命令的解释，大家动起手来下载LATEX啦！！Latex的下载地址：https://mirrors.tuna.tsinghua.edu.cn/ctex/unstable/安装方法和普通应用程序没有什么区别，D/E/F盘都可以。下载成功后，你的桌面就会出现这样一个图标：双击打开是这样的界面：以上是昨天的内容，补充了下载地址。今天呢，先说下使用这个Latex的基本思路：在打开软件后，和WORD是类似
2021-06-03 17:29:48
321
转载 排版当属latex，系列1
LaTeX(LATEX，音译"拉泰赫")是一种基于TeX的排版系统，由美国计算机学家莱斯利·兰伯特(Leslie Lamport)在20世纪80年代初期开发，利用这种格式，即使使用者没有排版和程序设计的知识也可以充分发挥由TeX所提供的强大功能，能在几天，甚至几小时内生成很多具有书籍质量的印刷品。对于生成复杂表格和数学公式，这一点表现得尤为突出。因此它非常适用于生成高印刷质量的科技和数学类文档。这个系统同样适用于生成从简单的信件到完整书籍的所有其他种类的文档。在接触latex之前，我和大多数同学一样都在使
2021-06-03 17:23:54
112
原创 联邦学习论文汇总---十五
FedMD: Heterogenous Federated Learning via Model Distillation背景1.深度学习可以自动感知和推理，需要大型数据，系统异构性（本地异步解决了一部分)，统计异质性性，需要创建自己的模型满足不同的规范，现有工作1.为凸问题的多任务学习提供一种框架2.基于贝叶斯、元学习和迁移学习创新1.迁移学习+知识蒸馏开发框架，每个用户有私有数据和私有模型2. 异构：局部模型的差异，参与者转化知识迁移内容1.每个模型对公有训练集训练，对私有数据集训练
2021-06-03 16:58:28
576
9
非独立同分布的数据集成学习效果变差是什么原因？
2022-03-09
TA创建的收藏夹 TA关注的收藏夹
TA关注的人