- 博客(9)
- 收藏
- 关注
RSS订阅原创 NLP技术也能帮助程序分析？
众所周知，在机器学习领域中，计算机视觉、自然语言处理和语音识别的技术已经发展的非常成熟，都已经有非常好的效果。同时，在系统安全领域，也有非常多的研究者，正在尝试使用非常大量的数据进行分析，以完成一些人类难以完成的挑战。以程序分析为例，从源码，经过编译获得中间语言、汇编码，再到二进制，最终进行运行，是一个很复杂的过程，而研究者就希望反向从二进制获得更多和源码直接相关的信息，以达成自身的研究...
2019-11-30 21:24:54
274
原创 学习随记|总结-从安全视角对 机器学习的部分思考
摘要近几年，机器学习的大规模应用，以及算法的大幅度提升，吸引了学术界、工业界以及国防部门的大量关注。然而，对于机器学习算法本身的局限性，由于其快速的发展也不断的暴露了出来。因此，不论是人工智能领域的学者，还是安全领域的学者，都希望能够从不同的角度提高模型的泛化能力，自此之后，就拉开了一场在机器学习领域的军备竞赛。在不断的“攻”与“防”的竞争下，目前的针对机器学习模型的安全问题，也取得了不错的进...
2019-01-12 21:22:17
585
原创 学习随记|Tensorflow for RNN-LSTM
跟着教程已经学到了RNN部分，就是Recurrent Neural Network。RNN和CNN的主要区别就在于，前一时间点的结果会影响下一时间点的输出，从上图右半部分可以看到，xt-1情况下的输入，得到st-1的状态，xt的输入，则会结合st-1的输入，共同得到最后st+1的结果。但是根据神经网络反向传播，更新梯度的方式，每一步如若权重小于1，则通过多个节点传播回起点，则有可能会影...
2018-12-02 23:28:36
273
原创 学习随记|Tensorflow for Windows
最近在学习tensorflow，因为有项目需要使用深度学习。但是本人又是重度windows OS的依赖者，所以就在windows下写相关代码。我主要是把一些心得分享给大家，然后有一些坑帮大家排一排。 大家在动手实践之前，最好能把神经网络的概念和工作原理搞明白一些，推荐一些课程和书籍，Andrew Ng的课程，有兴趣的可以听听李飞飞老师的CV课程，同时书的话可以参考周志华老师的西瓜书，我...
2018-11-29 17:27:32
379
原创 笔记回顾3|Attack Classification in Adversarial Settings
针对adversarial machine learning这个问题而言，AI出身的小伙伴们可能认为，这样的工作应该只能看做模型的鲁棒性或泛化能力不够强，但是从安全角度考虑，其实所谓的“安全”概念，是从模型的设计者角度出发，考虑到模型的行为超出意料之外，让模型设计者手足无措，因此我们认为是可能存在“潜在威胁”，因而将这类行为归类为安全问题。特此解释。那么针对模型的攻击问题，我们主要分为两大...
2018-11-26 20:43:41
752
2
原创 比赛回顾1|众安保险线下Hackthon 保险续保预测
鄙人参加了一些数据挖掘的竞赛，有运气好抱大腿获奖的，也有被大佬碾压的，但是希望能把这些比赛过程尽量记录下。一方面是记录一下事件本身，另一方面，是希望把自己的方案和想法记录下，同时即使获得了好的成绩，也是有运气成分，还是希望能够找到有进步的空间，以后能做的更好。比赛开始的时候，是在2018年8月23日抵达的上海，入住了酒店。第二天早上吃了酒店高贵的自助早餐之后就去签到了。正式比赛开始是早上10点...
2018-11-13 21:58:41
1056
2
原创 笔记回顾2|Adversarial Machine Learning‘s Threat Model
Firstly, thank to SoK: Towards the Science of Security and Privacy in Machine Learning.本章节主要讨论下这篇文章中，在AML中的threat model。其中内容会借鉴部分参考文献的思路和框架，也会有自己对于应用场景和未来优化的思考。看到上图中，主要介绍了不同的场景中的攻击面，其中涉及到的是普遍的机器...
2018-11-13 19:22:20
1347
1
原创 笔记回顾1|Adversarial Machine Learning的总览1
笔者原先是做传统安全的，专注于系统安全与软件安全的任务研究和算法优化。但是近几年，在“人工智能”话题火热的情况下，有关机器学习安全的问题，也是层出不穷。因此这段时间，对于这个方向有所初探，并把相关的内容自己总结成文记录下来。注：这里引用一下我师弟Zhongling He当时在做报告时候的ppt时候的截图，帮助我总结来提炼重点。（虽然我也给了点微小的指点）首先来回顾下机器学习的概念，其概...
2018-11-10 23:12:57
2086
2
原创 产品思漩 | 微信近期更新浅谈
首次尝试写微博，来源是近期对于生活中的一些产品的想法，和IT相关，但是又和技术无关。记录这些内容，一方面是作为自己的灵感来源有据可循，另一方面是希望作为书面材料可以之后与他人交流。产品思漩是我希望作为一个series来一直记录生活中遇到的一些对于产品的思考，以及和技术的结合。同时也算是对自己的鞭策，希望能够坚持下去。春节在家，没事儿就聊聊微信，发现了微信几个更新的小点（当然是因为这些点对我还是有点...
2018-02-28 23:28:35
452
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人