- 博客(101)
- 资源 (2)
- 收藏
- 关注
原创 2023 联邦推荐系统综述
2023 联邦推荐系统综述 IEEE TRANSACTIONS ON NEURAL NETWORKS AND LEARNING SYSTEMS,
2024-06-24 16:21:46
929
转载 联邦学习中的知识蒸馏
联邦学习 (FL) 已被提议作为基于云的深度学习 (DL) 的替代方案。这种范例将训练 DL 模型的能力与收集原始数据、交替在设备上计算和定期通信的需要分离开来 [34、4]。在学习过程中,联邦中的参与者只需要披露短暂的、本地处理的有效载荷,这使得推断个人的私人信息变得更加困难。联邦平均 (FedAvg) 代表联邦学习 (FL) [34] 的基线算法。在 FedAvg 中,协作学习通过利用。
2024-06-18 16:15:10
565
转载 视觉Mamba来了:速度提升2.8倍,内存能省87%
在 ImageNet 分类任务、COCO 对象检测任务和 ADE20k 语义分割任务上,与 DeiT 等成熟的视觉 Transformers 相比,Vim 实现了更高的性能,同时还显著提高了计算和内存效率。随后直接堆叠 L 个 Vim 块。Mamba 的提出带动了研究者对状态空间模型(state space model,SSM)兴趣的增加,不同于 Transformer 中自注意力机制的计算量会随着上下文长度的增加呈平方级增长,由于 SSM 擅长捕捉远程依赖关系,因而开始受到大家追捧。
2024-06-13 22:45:11
107
原创 2024国内热门大语言模型在科研方面的应用
开发方:百度特点:专注于中文语言理解与生成,适合中文文本的语义理解任务。百度推出的文心一言,依托百度庞大的数据资源和强大的自然语言处理技术,能够进行高质量的文本生成、问答和多轮对话。它在中文场景下的表现尤为突出,对于中文语境的理解和生成能力极强。上述大模型各有自己的优势,要结合自己的任务和模型特点,选择合适的模型使用。
2024-06-05 14:58:37
1111
转载 CVPR2024论文盘点(10篇):包括多模态大模型,目标检测,图像分割
通过这种方法,在PASCAL VOC 2012和MS COCO 2014两个标准数据集上的实验不仅验证了CPAL的有效性,还展示了它在提升模型性能方面的显著优势,推动了该领域的进步至新的高度。随着深度学习的快速发展,模型可用训练数据规模呈指数级上升,大规模语言模型和多模态模型的通用理解能力得到了巨大的提高,出现了一批能解决多种任务的统一模型。在推理阶段,通过将先前帧中预测的物体掩码作为它们的视觉提示,UniVS 将不同的视频分割任务转化为以提示为导向的目标分割,消除了启发式的帧间匹配过程。
2024-05-29 22:15:10
7317
原创 2023-2024 联邦推荐 × 顶会
abstractTranslation: 联邦推荐可以潜在地缓解收集敏感数据和个人数据以训练个性化推荐系统时的隐私问题。然而,当由于本地资源限制而不适用本地服务并且在线服务需要查询客户端的数据隐私时,其推荐质量较低。此外,在联邦推荐的训练和服务中理论上的私有解决方案是必要的,但仍然缺乏。由于模型梯度和隐藏表示的高维特性,将差分隐私(DP)简单地应用于联邦推荐的两个阶段将无法在隐私和效用之间实现令人满意的权衡。
2024-05-13 22:09:42
1193
转载 【转载】解读Mamba序列模型
他在SSM的基础上,通过此篇论文《》首次提出了结构化状态空间S4(这里有关于S4的更多论文),但这篇论文的可读性比较差;当然,作者在YouTube上有一个关于这篇S4论文的精彩解读,比S4论文的可读性提高很多,且本文中也应用了其中的部分PPT截图,但还可以更加通俗易懂;此外,Maarten Grootendorst写了一篇《A Visual Guide to Mamba and State Space Models》,可读性较强。
2024-05-07 14:38:08
1655
转载 基于扩散模型的图像编辑:首篇综述
去噪扩散模型已成为各种图像生成和编辑任务的有力工具,有助于以无条件或输入条件的方式合成视觉内容。这些模型背后的核心理念是学习如何逆转逐渐向图像中添加噪声的过程,从而从复杂的分布中生成高质量的样本。在这份调查报告中,我们详尽概述了使用扩散模型进行图像编辑的现有方法,涵盖了该领域的理论和实践方面。我们从学习策略、用户输入条件和可完成的一系列具体编辑任务等多个角度对这些作品进行了深入分析和分类。
2024-04-24 19:11:58
464
原创 交通大模型与时序大模型整理【共15篇工作】【附开源代码】
通过本文的阐述,我们希望能够为研究人员、决策者和城市规划者提供一些有益的参考,促进交通领域数据整理与分析工作的进一步发展与应用。
2024-04-16 15:41:12
3272
转载 个性化联邦学习综述
文章转载自题目:Towards Personalized Federated Learning收录于:IEEE Transactions on Neural Networks and Learning Systems (Mar 28, 2022)作者单位:NTU,Alibaba Group,SDU,HKUST,WeBank链接:https://arxiv.org/pdf/2103.00710.pdf。
2024-04-08 19:28:09
698
转载 联邦学习中的个性化技术(Personalization)
联邦学习中,由于数据的统计异构问题,用户间的隐私数据具有分散、Non-IID(非独立同分布)特性,每个用户本地的数据分布会随着用户所在地以及用户偏好而变动。原因很简单,模型的暴力聚合(FedAvg)并不是线性的求和,每个用户自身的模型参数仅适合本身的数据,而不同用户数据间的数据分布以及质量差距较大。
2024-04-02 19:49:06
288
转载 异构联邦学习综述:最新进展与研究挑战
联邦学习(Federated Learning, FL)因其在大规模工业应用中的潜力而受到越来越多的关注。现有的联邦学习工作主要关注模型同构的情况。然而,实际的联邦学习通常面临参与者客户端之间的数据分布、模型体系结构、网络环境和硬件设备的异构性。异构联邦学习(Heterogeneous Federated Learning, HFL)更具挑战性,其解决方案多样且复杂。因此,对该问题的研究挑战和最新进展进行系统综述是必要的。
2023-12-10 20:50:55
1263
转载 传统图像降噪算法之BM3D原理详解
图像降噪是一个十分具有实用价值的研究方向,因为噪声总是无处不在的。当处于比较昏暗的环境时,噪声将极大地影响着我们所拍摄的图像。如今,随着深度学习算法以及相关硬件的不断发展,深度卷积网络同样在图像降噪领域占据了主流,并且代表了该领域最优异的成绩。但是,深度神经网络同样有着其缺点,例如模型过于庞大而计算复杂度过高,以及缺乏一些理论上的解释性,当然这些缺点正不断地得到弥补。为了更好地理解图像降噪的基本原理,我们有必要回过头来仔细研读一些传统算法的具体思路,了解其所使用基本理论依据,以及一些巧妙的改进方法。
2023-12-01 11:53:18
1559
转载 联邦学习:联邦场景下的跨域推荐
跨域推荐在实际应用中常常面临隐私性的挑战,其一是不同用户的数据难以合法地进行集中化收集;其二是其使用的迁移学习模型跨不同的域和数据集进行映射,这常常会关联到不同的组织机构,同样会面临隐私问题。此时上面提到的需要将数据集中起来的跨域推荐方法就不再行得通了,需要考虑在联邦场景下的跨域推荐模型。
2023-11-07 16:46:38
522
原创 图像恢复介绍(持续更新)
的产生是信号在采集、传输以及记录过程中,受到成像设备自身因素和外界环境的影响而产生的。现实中的噪声是随机分布的,事实上,噪声无法完全去除,只能使得重现信号尽可能的接近原始信号,因此,去噪严格意义上只能被称之为降噪。通过去噪可以有效地增大图像信号的信噪比,提高图像质量 ,更好地体现原始图像所携带的信息。
2023-10-26 17:55:10
482
转载 Pytorch搭建YoloV5目标检测平台
源码下载YoloV5改进的部分(不完全)1、主干部分:使用了Focus网络结构,具体操作是在一张图片中每隔一个像素拿到一个值,这个时候获得了四个独立的特征层,然后将四个独立的特征层进行堆叠,此时宽高信息就集中到了通道信息,输入通道扩充了四倍。该结构在YoloV5第5版之前有所应用,最新版本中未使用。2、数据增强:Mosaic数据增强、Mosaic利用了四张图片进行拼接实现数据中增强,根据论文所说其拥有一个巨大的优点是丰富检测物体的背景!且在BN计算的时候一下子会计算四张图片的数据!
2023-10-19 14:12:09
333
原创 联邦学习中的数据非独立同分布问题
比如在一个图像分类数据集cifar-10中,共有6W张照片分为10类,在传统的图像分类实验中,数据集采用均匀划分的5w个作为训练集,1w个样本作为测试集。在传统的应用场景中,数据存储在中心,机器学习可以获取所有数据的整体信息,但是在联邦学习中,由于数据仅存储在本地,导致数据之间分布的不一致性。在传统的机器学习中,可以把训练集和测试集看成两个客户端,在之前的训练中,我们都是假设这两个客户端是IID的,这是通过训练数据集获得的模型在测试数据集上也能表现较好的重要保障。
2023-10-10 09:47:26
1498
1
原创 联邦学习应用研究现状及发展趋势
本文章主要参考第32届国际人工智能联合会议(IJCAI)上由清华大学人工智能研究院知识工程研究中心(KEG)、北京智谱华章科技有限公司、开放群岛开源社区联合编写的《2023联邦学习全球研究与应用趋势报告》,对重点内容进行总结提炼,并介绍部分学习资料,旨在帮助对联邦学习感兴趣的学习者更快了解其研究现状及未来可能的发展趋势。
2023-09-26 09:17:22
1503
转载 图像分割综述
所谓图像分割就是根据图像中所具有的特征将其划分为互不相交的子区域,在同一区域的像素点具有一定的相关性,不同区域的像素点存在一定的差异性,也即是对图像中有着相同性质的像素赋予相同标签的过程。图像分割技术根据其自身的特点和目的经常被应用于一些图像的前期处理中,以便于获取图像的关键特征信息。以下将对各种图像分割算法进行一个介绍。
2023-09-15 09:50:12
345
转载 基于深度学习的图像恢复方法综述论文
topic【研究意义】在本文中,我们对用于图像恢复任务的深度学习方法进行了广泛的回顾。以卷积神经网络为首的深度学习技术在几乎所有图像处理领域,尤其是图像分类领域,都受到了广泛关注。然而,图像恢复是一个基本且具有挑战性的课题,在图像处理、理解和表示中起着重要作用。【图像恢复的细分研究方向】它通常处理图像去模糊 (image deblurring)、去噪 (denoising)、去雾 (dehazing) 和超分辨率 (super-resolution)。【图像恢复方法】
2023-09-11 11:56:20
1299
转载 基于联邦学习的推荐系统总结
本文总结了几篇基于联邦学习范式的推荐系统,分别从不同的层面对基本的联邦学习更新方式进行了优化,比如如何实现更好的聚合参数、如何更好的挑选待更新的客户端、如何保持更严格的隐私保护、如何减少更新过程中的通信量等。该方向相对来说是一个比较新的方向,其目标是在保护用户隐私的前提下如何实现本地模型更精准的推荐服务,但现在的实验验证方式基本都是靠模拟来完成的,即手动将完整的数据集切分为符合联邦学习方式的多个本地数据集。
2023-09-05 15:57:30
584
原创 联邦学习FedAvg-基于去中心化数据的深度网络高效通信学习
随着计算机算力的提升,机器学习作为海量数据的分析处理技术,已经广泛服务于人类社会。 然而,机器学习技术的发展过程中面临两大挑战:一是数据安全难以得到保障,隐私泄露问题亟待解决;二是网络安全隔离和行业隐私,不同行业部门之间存在数据壁垒,导致数据形成“孤岛”无法安全共享,而仅凭各部门独立数据训练的机器学习模型性能无法达到全局最优化。为解决上述问题,谷歌提出了联邦学习(FL,federated learning)技术。
2023-08-30 16:54:23
2612
1
转载 2023大型语言模型推荐技术进展综述: 分类、进展、问题、趋势.
大型语言模型(LLM)已成为自然语言处理(NLP)领域的强大工具,最近在推荐系统(RS)领域获得了极大关注。这些模型通过自监督学习在海量数据上进行训练,在学习通用表征方面取得了显著的成功,并有可能通过一些有效的转移技术(如微调和及时调整等)来增强推荐系统的各个方面。利用语言模型的力量提高推荐质量的关键在于利用其高质量的文本特征表征和广泛的外部知识覆盖来建立项目和用户之间的相关性。
2023-07-27 15:55:10
1117
转载 深入浅出的小波变换
从)到,并不是一个完全抽象的东西,可以讲得很形象。小波变换有着明确的物理意义,下面我就按照傅里叶–>短时傅里叶变换–>小波变换的顺序,讲一下小波变换。
2023-06-28 16:09:24
691
原创 深度学习的低秩优化:在紧凑架构和快速训练之间取得平衡(上)
高度的计算复杂度和存储成本使得深度学习难以在资源受限的设备上使用,并且不环保,功耗高。本文专注于高效深度学习技术的低秩张量优化方法。在空间域,深度神经网络通过对网络参数进行( low rank approximation )进行压缩,以更少的网络参数直接降低了存储需求。在时域中,网络参数可以在几个中进行训练,从而实现快速收敛的高效训练。
2023-06-09 21:16:25
1379
原创 基于张量补全的交通数据复原文献汇总(最新)
由于传感器故障和通信故障等因素导致的交通数据缺失严重制约了ITS的发展与应用。如何准确、高效地恢复缺失数据已成为ITS的一个关键问题。近年来,LRTC(低秩张量补全)的方法已被广泛应用于交通数据补全。本文将介绍几篇最新的关于交通数据补全的文献。欢迎批评指正!
2023-06-06 22:14:03
1601
1
原创 多维图像去噪方法研究
因此,HS图像丰富的空间和光谱信息极大地提高了地球观测的感知能力,这使得HS RS技术在精准农业(例如监测农作物的生长和健康)等领域发挥着至关重要的作用,太空探索(例如,寻找其他行星上的生命迹象)、污染监测(例如,检测海洋漏油)和军事应用(例如,识别军事目标)。综合实验证明:(i)BM3D系列用于各种去噪任务的有效性和效率,(ii)与张量算法相比,简单的基于矩阵的算法可以产生类似的结果,以及(iii)用合成高斯噪声训练的几个DNN模型在现实世界的彩色图像和视频数据集上显示出最先进的性能。
2023-05-04 20:16:37
2220
1
转载 【2022综述】人工智能交通预测技术:最新发展与未来机遇【附思维导图】
论文标题:《Traffic prediction using artificial intelligence: Review of recent advances and emerging opportunities》作者:Maryam Shaygan, Collin Meese, Wanxin Li, Xiaoliang (George) Zhao, Mark Nejad期刊:Transportation Research Part C: Emerging Technologies
2023-04-18 15:00:23
2889
转载 ChatGPT进阶——如何辅助设计E-R图、流程图和时序图等
Mermaid 是一个基于 JavaScript 的图表绘制工具,通过解析类 Markdown 的文本语法来实现图表的创建和动态修改。Mermaid 诞生的主要目的是让文档的更新能够及时跟上开发进度。
2023-03-29 21:45:08
17065
原创 基于Transformer的交通预测模型部分汇总【附源代码】
交通预测一直是一个重要的问题,它涉及到交通运输系统的可靠性和效率。随着人工智能的发展,越来越多的研究者开始使用深度学习模型来解决这个问题。其中,基于Transformer的交通预测模型在近年来备受关注,因为它们具有优秀的建模能力和较好的预测准确性。
2023-03-14 17:56:22
9136
4
转载 ChatGPT与智能交通
ChatGPT全名为Chat Generative Pre-trained Transformer,是美国OpenAI研发的聊天机器人程序,于2022年11月30日发布。ChatGPT是人工智能技术驱动的自然语言处理工具,它能够通过学习和理解人类的语言来进行对话,还能根据聊天的上下文进行互动,真正像人类一样来聊天交流,甚至能完成撰写邮件、视频脚本、文案、翻译、代码,写论文等任务。
2023-03-01 13:28:19
1386
原创 基于张量变换域低秩正则化的图像恢复方法
在高光谱图像的第三个模态上,又具有波段上的相关性(MRI、RGB图像都具有相似的性质)。这就使得图像的三阶张量表现出一定的低秩性,因而低秩约束被广泛应用于图像恢复。根据张量的低秩性约束与不同张量秩的定义,又有许多低秩张量补全算法用于图像恢复,比如基于Tucker秩的HaLRTC,基于管秩的TNN,基于TT秩的TMac-TT等。本文将介绍两种TRPCA(Tensor Robust Principal Component Analysis)相关的改进算法,旨在诱导出更低的张量秩。
2023-01-04 22:38:41
1520
雅虎音乐数据集1.0版本yahoo-music.zip
2021-03-31
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人