论文阅读
机器学习隐私与安全方向
香草星冰乐
南京理工大学研究生,主要研究方向机器学习的隐私保护。
展开
-
Model-Reuse Attacks on Deep Learning Systems阅读笔记
Model-Reuse Attacks on Deep Learning Systems阅读笔记文献背景及解决问题核心方法论文优点总结与想法文献背景及解决问题现如今许多机器学习(ML)系统都是通过重用一组通常经过预先训练的原始模型来构建的(例如,特征提取),越来越多的原始模型的使用意味着简化和加速了ML系统的开发周期,但由于大多数此类模型都是由不可信的来源提供和维护的,缺乏标准化或监管会带来深远的安全影响。数据:截至2016年,超过13.7%的ML系统至少使用一个GitHub上的原始模型(预训练神经网络原创 2020-05-19 15:17:41 · 413 阅读 · 0 评论 -
Differentially Private Asynchronous Federated Learning for Mobile Edge Computing in Urban Informatic
Differentially Private Asynchronous Federated Learning for Mobile Edge Computing in Urban Informatics阅读笔记文献背景及解决问题车联网中的联邦学习具体方案总结与思考文献背景及解决问题由于无线网络带宽和计算资源的限制,车辆很难使用大量数据来进行提高服务质量的机器学习,比如自动驾驶和交通预测。本文设计了一种在车联网环境下的联邦学习方案,实现了具有差分隐私的异步联邦学习。联邦学习在车联网中的挑战:1.车辆的原创 2020-05-13 15:24:07 · 1839 阅读 · 11 评论 -
Machine Learning with Membership Privacy using Adversarial Regularization
Machine Learning with Membership Privacy using Adversarial Regularization阅读笔记文献背景及解决问题基础知识具体方案核心算法实验总结下载文献背景及解决问题机器学习模型通过其预测泄漏了大量有关其训练集的信息。对于机器学习即服务用户而言,这是一个严重的隐私问题。为了解决这个问题,在本文中,我们着重于减轻针对机器学习模型的黑匣子推理攻击的风险。本文作者引入了一种机制来训练具有成员资格私有性的模型,从而确保模型在其训练数据与其他数据点的预原创 2020-05-11 15:32:43 · 653 阅读 · 0 评论