Ubuntu20.04部署微软counterfit AI系统安全测评工具实战

一、介绍

Counterfit是微软创建的一个开源工具，用于自动化组织的AI系统的安全测试。鉴于人工智能系统在各行业的使用量很大，其最终目标是让企业对其人工智能系统的稳健性和可靠性有很高的信心。

Counterfit最初是一套可用于攻击AI模型的脚本。现在，Counterfit已经发展成为一个自动化工具，可以大规模地攻击多个AI模型。

使用Counterfit的好处是，它与环境、模型和数据无关。这意味着，它可以在企业内部、边缘和云中使用，以测试任何类型的人工智能模型，这些模型依赖于几乎任何形式的输入数据，包括文本和图像。它可以用于渗透测试和漏洞扫描，它还可以记录对人工智能模型的攻击，因此数据科学家可以利用其遥测技术来进一步加强其人工智能系统的安全性。

下载地址：https://github.com/Azure/counterfit

wiki地址：Installation · Azure/counterfit Wiki · GitHub

二、Ubuntu下的安装历程

 2.1 准备环境

1、Ubuntu20.04 桌面版镜像，支持SSH 服务；

2、安装完成Anaconda Python and git；

    anaconda python安装参考：Ubuntu20.04安装anaconda_绿竹巷人的博客-CSDN博客_ubuntu20.04安装anacondahttps://blog.csdn.net/weixin_42156097/article/details/125979742 git安装参考：sudo apt  update 

                       sudo  apt  install  git

2.2 正式部署

1、根据准备环境，确认选择  Anaconda Python  Enviornment 的安装指南来进行；

2、首先克隆github内容到本机：

git clone https://github.com/Azure/counterfit.git

3、更新并创建虚拟环境：

conda update -c conda-forge --all -y

注意：此处的python版本需替换成本地机器实际的python版本号；

conda create --yes -n counterfit python=3.8.0

conda activate counterfit

git clone -b main https://github.com/Azure/counterfit.git

cd counterfit

以上步骤，按照操作直接进行即可；

4、安装并更新依赖环境；

pip install .[dev]

命令很简单，但是期间遇到了以下问题：

①安装源缓慢，此时选择此种临时解决方式 （pip install 慢，链接超时问题解决方案）

 pip install .[dev]  -i  https://mirrors.aliyun.com/pypi/simple

5、启动counterfit；

counterfit

启动时，会继续下载需要的TextAttack框架、nltk_data语料数据，期间由于依赖源等问题也大概率会出现timeout的情况，解决方式如下：

①安装源缓慢的问题，可以继续参考 步骤4 pip install的解决方案；

②TextAttack 安装方式：Counterfit 部署教程_HENECIA_AQ的博客-CSDN博客_cannot import name 'gcd' from 'fractions

    git clone https://github.com/QData/TextAttack.git

    cd TextAttack

    注释或删除 editdistance

   

 进入textattack执行pip install -e .   -i  https://mirrors.aliyun.com/pypi/simple ；

③nltk_data的每个package下载都很慢，与raw这个网址本身响应慢也有关系；

  通过离线下载后上传的方式，可能存在语料包不全，启动继续受阻的问题；

  基于以上情况，建议如下操作修改hosts，一步到位，自动下载安装（Error loading 解决方案）；

cp  -r   /etc/hosts  /etc/hosts.bak  先备份；

vi /etc/hosts  再编辑；

最后一行加入如下地址：

再次启动counterfit程序，等待各种依赖下载完全，counterfit安装启动完成，如下图：