weixin_41764426的博客

众所周知，在机器学习领域中，计算机视觉、自然语言处理和语音识别的技术已经发展的非常成熟，都已经有非常好的效果。同时，在系统安全领域，也有非常多的研究者，正在尝试使用非常大量的数据进行分析，以完成一些人类难以完成的挑战。以程序分析为例，从源码，经过编译获得中间语言、汇编码，再到二进制，最终进行运行，是一个很复杂的过程，而研究者就希望反向从二进制获得更多和源码直接相关的信息，以达成自身的研究...

Firstly, thank to SoK: Towards the Science of Security and Privacy in Machine Learning.本章节主要讨论下这篇文章中，在AML中的threat model。其中内容会借鉴部分参考文献的思路和框架，也会有自己对于应用场景和未来优化的思考。看到上图中，主要介绍了不同的场景中的攻击面，其中涉及到的是普遍的机器...

鄙人参加了一些数据挖掘的竞赛，有运气好抱大腿获奖的，也有被大佬碾压的，但是希望能把这些比赛过程尽量记录下。一方面是记录一下事件本身，另一方面，是希望把自己的方案和想法记录下，同时即使获得了好的成绩，也是有运气成分，还是希望能够找到有进步的空间，以后能做的更好。比赛开始的时候，是在2018年8月23日抵达的上海，入住了酒店。第二天早上吃了酒店高贵的自助早餐之后就去签到了。正式比赛开始是早上10点...

针对adversarial machine learning这个问题而言，AI出身的小伙伴们可能认为，这样的工作应该只能看做模型的鲁棒性或泛化能力不够强，但是从安全角度考虑，其实所谓的“安全”概念，是从模型的设计者角度出发，考虑到模型的行为超出意料之外，让模型设计者手足无措，因此我们认为是可能存在“潜在威胁”，因而将这类行为归类为安全问题。特此解释。那么针对模型的攻击问题，我们主要分为两大...

最近在学习tensorflow，因为有项目需要使用深度学习。但是本人又是重度windows OS的依赖者，所以就在windows下写相关代码。我主要是把一些心得分享给大家，然后有一些坑帮大家排一排。 大家在动手实践之前，最好能把神经网络的概念和工作原理搞明白一些，推荐一些课程和书籍，Andrew Ng的课程，有兴趣的可以听听李飞飞老师的CV课程，同时书的话可以参考周志华老师的西瓜书，我...

跟着教程已经学到了RNN部分，就是Recurrent Neural Network。RNN和CNN的主要区别就在于，前一时间点的结果会影响下一时间点的输出，从上图右半部分可以看到，xt-1情况下的输入，得到st-1的状态，xt的输入，则会结合st-1的输入，共同得到最后st+1的结果。但是根据神经网络反向传播，更新梯度的方式，每一步如若权重小于1，则通过多个节点传播回起点，则有可能会影...

摘要近几年，机器学习的大规模应用，以及算法的大幅度提升，吸引了学术界、工业界以及国防部门的大量关注。然而，对于机器学习算法本身的局限性，由于其快速的发展也不断的暴露了出来。因此，不论是人工智能领域的学者，还是安全领域的学者，都希望能够从不同的角度提高模型的泛化能力，自此之后，就拉开了一场在机器学习领域的军备竞赛。在不断的“攻”与“防”的竞争下，目前的针对机器学习模型的安全问题，也取得了不错的进...