![](https://img-blog.csdnimg.cn/20201014180756757.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
网络空间安全
草棚
Github:https://github.com/pengcao
Email:deamoncao@163.com
展开
-
人工智能安全标准规范制定情况
人工智能安全、伦理、隐私保护等的安全相关 标准,大多仍处于研究阶段。国外 IEEE正在开发人工智能伦理道德标准,规范人工智能安全设计 。2017 年 3 月, IEEE 在《IEEE 机器人与自动化》杂志发表了名为“旨在推进人工智能和自治系统的伦理设计的 IEEE 全球倡议书”,倡议通过基于伦理的设计原则和标准帮助人们避免对人工智能技术的恐惧和盲目崇拜,从而推动人...原创 2019-06-30 10:25:09 · 2479 阅读 · 1 评论 -
When deep learning meets security
深度学习是一个新兴的研究领域,已经证明了它在部署更多方面的有效性高效的智能系统。另一方面,安全是现代信息化建设中最重要的问题之一。最近很多论文都表明使用深度学习模型可以实现应用于安全领域。现对这些研究成果进行总结,本文总结了其中的9个应用如下所示:(1)Tobiyama提出一种基于进程行为进行恶意进程检测到方法,研究人员利用LSTM(Long Short-Term Me...翻译 2019-06-30 10:39:08 · 439 阅读 · 0 评论 -
对抗攻击的防御技术
目前针对对抗攻击的防御技术主要分三个方向:改训练过程/ 输入数据、修改网络、使用附加网络。一改训练过程/ 输入数据1.1 蛮力对抗训练 通过不断输入新类型的对抗样本并执行对抗训练,从而不断提升网络的鲁棒性。为了保证有效性,该方法需要使用高强度的对抗样本,并且网络架构要有充足的表达能力。这种方法需要大量的训练数据,因而被称为蛮力对抗训练。很多文献中提到这种蛮力...翻译 2019-06-30 11:14:16 · 3844 阅读 · 0 评论 -
联邦学习如何在隐藏隐私的世界中塑造人工智能的未来
联邦学习不是从用户那里收集数据来训练数据集,而是大批量地在移动设备上训练AI模型,然后将这些学习转移回全局模型,而不需要数据离开设备。 作为Facebook上个月流行的深度学习框架PyTorch的最新版本的一部分,该公司的AI研究小组推出了Secure and Private AI,这是一个免费的为期两个月的Udacity课程,讲授使用加密计算,差异隐私和联邦...翻译 2019-07-07 09:54:10 · 528 阅读 · 0 评论 -
自动化系统问题:算法偏差
关于自动驾驶汽车的担忧列表变得越来越长。除了担心他们是多么安全,他们如何处理道路上棘手的道德权衡,以及他们如何使交通变得更糟,我们还需要担心他们如何伤害有色人种。 根据乔治亚理工学院的一项新研究,如果你是一个皮肤黝黑的人,你可能比白人朋友更容易受到自动驾驶汽车的打击。这是因为自动车辆可以更好地检测出肤色较浅的行人。 该研究的作者首先提出了一个简单的问题...翻译 2019-07-07 10:02:41 · 1929 阅读 · 0 评论 -
GyoiThon-基于机器学习的渗透测试工具
GyoiThon是一款基于机器学习的渗透测试工具。GyoiThon根据学习数据识别安装在Web服务器上的软件(操作系统,中间件,框架,CMS等)。之后,GyoiThon为已识别的软件执行有效的攻击。最终,GyoiThon会自动生成扫描结果报告。上述处理均由GyoiThon自动执行。流程如下所示:第1步:收集HTTP响应 GyoiThon在抓取时会收集目标网站的...转载 2019-07-07 14:58:48 · 936 阅读 · 0 评论 -
深度学习中的隐私保护技术综述
摘要:如今机器学习以及深度学习在各个领域广泛应用,包括医疗领域、金融领域、网络安全领域等等。深度学习的首要任务在于数据收集,然而在数据收集的过程中就可能产生隐私泄露的风险,而隐私泄露将导致用户不再信任人工智能,将不利于人工智能的发展。本文总结了目前在深度学习中常见的隐私保护方法及研究现状,包括基于同态加密的隐私保护技术、差分隐私保护技术等等。1 研究背景1.1 隐私泄露风险 ...转载 2019-07-21 20:28:05 · 17280 阅读 · 0 评论 -
HE-Transformer(一种允许AI模型对加密数据进行操作的工具)
在加拿大蒙特利尔召开的NeurIPS 2018会议上,英特尔宣布推出开源HE-Transformer,这是一种允许AI系统对敏感数据进行操作的工具。它是nGraph,英特尔神经网络编译器的后端,基于简单加密算法库(SEAL),这是一个加密库,微软研究院开源软件。 HE允许对加密数据进行计算,允许用户获得有价值的见解,而不会有暴露底层数据的风险。使用HE,数据由用户控制,...原创 2019-08-11 11:16:30 · 1302 阅读 · 0 评论