DeepCoFFEA：通过度量学习和放大改进对Tor的流量关联攻击

DeepCoFFEA：通过度量学习和放大改进对Tor的流量关联攻击

DeepCoFFEA: Improved Flow Correlation Attacks on Tor via Metric Learning and Amplification

Name	Institution	Email
Se Eun Oh	Ewha Womans University	seoh@ewha.ac.kr
Taiji Yang	University of Minnesota	yang6682@umn.edu
Nate Mathews	Rochester Institute of Technology	njm3308@rit.edu
James K Holland	University of Minnesota	holla556@umn.edu
Mohammad Saidur Rahman	Rochester Institute of Technology	mr6564@rit.edu
Nicholas Hopper	University of Minnesota	hoppernj@umn.edu
Matthew Wright	Rochester Institute of Technology	matthew.wright@rit.edu

来源	级别	年份
IEEE Symposium on Security and Privacy (SP)	信息安全顶会	2022

摘要

端到端流量关联攻击是低延迟匿名网络中最早已知的攻击之一，并被视为$\text{ Tor }$流量分析的核心原语($coreprimitive$)。然而，尽管最近的研究表明，单个流可以被高度准确地关联，但即便是这些最先进的攻击也存在一个核心缺陷：它们的成对性质，需要比较${\text{ N}}^2$对流量以去匿名化$\text{ N }$用户。这导致计算需求的组合爆炸和渐近下降的基本速率，导致要么大量误报，要么成功关联率极低。在本文中，我们介绍了一种新颖的流量关联攻击，$\text{ DeepCoFFEA }$，它结合了两个想法以克服这些缺点。首先，DeepCoFFEA 使用深度学习训练一对特征嵌入网络，分别将$\text{ Tor }$和出口流映射到单个低维空间中，在该空间中，相关流量是相似的；嵌入流对比完整轨迹对的比较成本更低。其次， DeepCoFFEA 使用放大技术，将流量划分为短窗口，并通过这些窗口的投票显著减少误报(假阳 FP)；相同的嵌入网络可以与越来越多的窗口一起使用，以独立降低误报率。我们进行了全面的实验分析，表明$\text{ DeepCoFFEA }$在$\text{ Tor }$上显著优于最先进的流量关联攻击，例如，在调优为高精度时，真阳性率为$93\%$，而之前的工作最多只有$13\%$，速度提升了两个数量级。我们还考虑了几种潜在对策对$\text{ DeepCoFFEA }$的影响，发现现有的轻量级防御不足以保护匿名网络免受此威胁。

I. 引言

$\text{ Tor }$ 也许是最著名的匿名网络，每天有数百万人使用它 [1] 来隐藏他们的敏感互联网活动，使其不被服务器、$\text{ ISP }$和潜在的国家级攻击者发现。$\text{ Tor }$通过一系列使用分层加密的中继来路由流量，以此提供低延迟的匿名性，以防止任何单一实体仅通过其内容了解连接的源和目的地。

尽管如此，众所周知，在低延迟匿名网络中，网络与终端系统（客户端和服务器）之间发送的流量的时间和量($volume$)可以用于流量分析。例如，最近将流量分析应用于$\text{ Tor }$的工作集中在网站指纹识别 [2]–[9]，即根据客户端和入口中继之间的流量识别客户端下载了哪个网站。

也许对低延迟匿名系统最基本的流量分析攻击是端到端流量关联攻击：攻击者观察进入网络和离开网络的流量，并试图关联这些流量，从而将每个用户与可能的目的地配对。这类攻击在$\text{ Tor }$之前的系统设计中就已经为人所知并被讨论过，例如$\text{ Onion Routing }$网络 [10] 和$\text{ Freedom }$网络 [11]。

$\text{ Tor }$设计 [12] 明确承认这类攻击可能有效，并集中在一个更有限的威胁模型上。反过来，许多关于$\text{ Tor }$安全性的已发表分析将流量关联视为核心原语，并仅计算攻击者可以观察到的流量比例 [13]–[24]。这些工作通常描述了一些方法，通过对$\text{ Tor }$协议的内部操作、互联网路由基础设施的操作，或网络定位和资源的结合来增加或限制攻击者可以观察到的流量比例，并假设流量关联将在这些观察中起作用。

尽管有这些假设，端到端流量关联攻击对$\text{ Tor }$网络的现实威胁程度仍不明确。直接将这些攻击应用于$\text{ Tor }$流量的一个问题是，由于各种因素，客户端和入口中继之间的流量与出口中继和目的地服务器之间的流量并不相同：加密流量的多路复用；用于在$\text{ Tor }$节点之间传输数据的固定大小单元；以及由缓冲、拥塞、线路之间的相互作用和$\text{ Tor }$的流量控制机制引起的延迟。例如，当$\text{ Sun }$等人 [17] 将$\text{ Spearman }$秩相关应用于一小部分入口流（称为$\text{ Tor }$流，因为它们被包装在$\text{ Tor }$单元协议中）时，他们发现每个流量几乎需要100MB的流量才能获得足够的性能。$\text{ Nasr, Bahramali, 和 Houmansadr }$[25] 通过使用深度神经网络（$\text{ DNNs }$）来学习一种更有效的$\text{ Tor }$特定流量关联指标$\text{ DeepCorr }$解决了这一限制，该指标使用更少的流量将流对分类为相关或不相关，且精度非常高。

然而，端到端 Tor 流量关联的另一个基本限制是攻击的成对性质。为了确定一个进入$\text{ Tor }$网络的流和一个离开它的流是否在同一个$\text{ Tor }$连接上，这些攻击计算两个流向量（由数据包时间和大小组成）之间的关联性；为了去匿名化一组流，这些攻击必须计算所有可能的进入和离开流之间的关联性。因此，要去匿名化$\text{ N }$个$\text{ Tor }$连接，它们将进行${\text{ N }}^2$次比较。

自然地，当给定时刻的流量数量可以达到数万时，这在计算上是非常昂贵的。或许更为关键的是，成对比较会导致较差的贝叶斯检测率（$\text{ BDRs }$），因为基本率($baserate$)——$\text{ Tor }$连接的两端是相关的概率——非常低（即$\frac{1}{\mathbf{N}}$）。任何具有固定误报率（$\text{ FPR }$）为$\text{ ρ }$的关联度量将错误地将$\text{ ρN }$个出口流分类为与每个入口流相关【译者注:应该是一种近似，实际上严谨的数值我认为应该为$\frac{N(N-1)}{2}\times \rho$】，因此在度量将其分类为相关的情况下，给定对实际上相关的概率为$\frac{1}{1+\rho N}$，随着$\text{ N }$的增加，该概率接近于0。

本文提出了一种新方法，(i)通过使用改进的三元组网络方法 [26] 显著降低每次比较的成本，该方法首先将 Tor 流和出口流嵌入到低维空间中，然后在这些嵌入之间使用更高效的比较；(ii) 使用放大技术 [27] 来聚合每对流的多个比较，允许显著降低 FPR ，无需学习新的嵌入或度量。

为了更好地理解三元组网络方法的优势，注意到$\text{ DeepCorr }$学习的是$\text{ Tor }$和出口流特征的成对组合，因此必须对每对流量运行一个昂贵的$\text{ DNN }$（成本为${\text{ N }}^2$次$\text{ DNN }$运行）。相比之下，我们开发特征嵌入网络来学习两种类型的嵌入，即$\text{ Tor }$和出口流嵌入，扩展了之前在网站指纹攻击中的想法 [28]。该架构学习一对函数分别生成入口流和出口流嵌入，并且这两个函数应用于每个流，每个流仅需两次$\text{ DNN }$评估（成本为$2N$ 次$\text{ DNN }$运行）。然后可以在嵌入空间中使用简单的距离函数以更低成本进行成对比较。

放大的关键优势，借鉴自随机算法 [27]，来自于能够对每对流进行多次、部分独立的相关性测试。为此，我们将流分成一系列$\text{ k }$个短时间段或窗口。然后我们为每个流提取$\text{ k }$个嵌入（将我们的计算成本适度提高一个$\text{ k }$的因子），并逐步进行$\text{ Tor }$和出口流的成对比较。正确匹配的流应在几乎所有$\text{ k }$个窗口中都相关，而不匹配的流可能最多只在某些窗口中相关。因此，这种窗口化方法放大了真阳性（$\text{ TPs }$）和潜在误报（$\text{ FPs }$）之间的差异。

我们将这种攻击称为$\text{ DeepCoFFEA }$，即深度相关流特征提取和放大($DeepCorrelatedFlowFeatureExtractionandAmplification$)。为了简要描述我们的攻击，网络级攻击者通过运行自己的中继或控制自治系统（$\text{ ASes }$），监控客户端和入口守护之间的$\text{ Tor }$流 $t_i$，以及出口中继和目的地服务器之间的出口流 $x_j$，如图1所示。

图1：DeepCoFFEA的威胁模型：我们有两种类型的攻击者——一种控制ISPs（蓝色），另一种运行自己的中继（红色）

提取数据包时间和大小信息后，攻击者共同训练两个$\text{ DNN }$模型（$\text{ G }$和$\text{ H }$），分别以$\text{ Tor }$流和出口流作为输入；$\text{ G }$和$\text{ H }$应具有这样一个属性：如果$\text{ Tor }$流$\text{ t }$和出口流$\text{ x }$相关，则对于某个关联度量$\text{ d }$和阈值$\text{ τ }$，$\text{ d(G(t), H(x))}\ge \text{ τ }$，但如果它们不相关，则$\text{ d(G(t), H(x))}<\text{ τ }$。然后，攻击者将$\text{ G }$和$\text{ H }$应用于连续$\text{ k }$个流窗口以提取特征嵌入向量，并计算成对关联矩阵。最后，如果两个流在至少$\text{ k }-l$ 个窗口（对于一个小阈值 $l$ ）中被$\text{ d }$视为相关，则攻击者确定这些流是相关的，否则它们不是；这显著放大了$\text{ TPs }$和$\text{ FPs }$之间的差异。

尽管$\text{ DeepCorr }$和$\text{ DeepCoFFEA }$都执行成对关联，但$\text{ DeepCoFFEA }$效率更高，因为$\text{ G }$和$\text{ H }$生成总共$2kN$个嵌入向量，而$\text{ DeepCorr }$处理${\text{ N}}^2$对。这是因为$\text{ DeepCoFFEA }$使用便宜的距离计算比较每对流的嵌入向量，而$\text{ DeepCorr }$基于$\text{ Tor }$和出口流的成对信息执行昂贵的$\text{ DNN }$评估。

这种改进的策略使$\text{ DeepCoFFEA }$能够在减少所需计算资源的同时，提高相对于$\text{ DeepCorr }$的$\text{ BDR }$。例如，在对1万个流进行关联分析时，对于给定的$\text{ FPR }$（$10^{-4}$），$\text{ DeepCoFFEA }$检测到的真实相关对的数量级（真阳性率为$85\%$对$8\%$，$\text{ TPR }$）显著更高，，而计算时间减少了两个数量级。我们还表明，$\text{ DeepCoFFEA }$的有效性可以跨目的地、线路和时间转移；特别是，$\text{ DeepCoFFEA }$能够有效地在评估集($evaluationdataset$)中关联流，其收集时间比其训练集晚14个月。我们还表明，由于放大，$\text{ DeepCoFFEA }$可以学习足够的有用特征来关联受到未知填充防御保护的流。

结合$\text{ DeepCorr }$的结果和网站指纹识别的最新进展 [5]，这些结果表明迫切需要开发和部署流量分析对策以保护$\text{ Tor }$用户。

II. 背景

A. 流量关联攻击

我们首先在附录 A 中回顾了过去关于端到端流量关联的研究。接下来，我们讨论了最近的流量关联技术，$\text{ RAPTOR }$和$\text{ DeepCorr }$，在本文中我们称之为最先进的攻击，并将其与$\text{ DeepCoFFEA }$进行比较。

最先进的攻击。在最近关于对$\text{ Tor }$的被动关联攻击的研究中，$\text{ Sun et al. }$ [17] 提出了$\text{ RAPTOR }$攻击，该攻击利用不对称流量分析来监控更高比例的$\text{ Tor }$连接的两端。他们使用$\text{ Spearman’s rank correlation }$算法测量了$50$对流的关联性，每对流包括$300$秒的流量。他们发现，先前研究的统计关联指标存在可扩展性问题，因为需要较长的流量样本才能得出可接受的结果。

针对这一问题，$\text{ Nasr, Bahramali and Houmansadr }$ [25] 后来描述了一种新的流量关联指标，$\text{ DeepCorr }$，它专门针对$\text{ Tor }$流量进行了深度学习训练。为了评估$\text{ DeepCorr }$，他们还收集了文献中出现的最大和最全面的关联流量数据集，使用不同时间段和不同电路的实时$\text{ Tor }$网络流量。虽然$\text{ DeepCorr }$使用仅$100$个数据包的流量数据相比$\text{ RAPTOR }$实现了更高的$\text{ TPR }$和更低的$\text{ FPR }$，但其模型的$\text{ BDR }$较低。例如，根据我们的实验，使用$2,093$对测试流，$\text{ DeepCorr }$达到了$81.7\%$的$\text{ TPR }$和$0.16\%$的$\text{ FPR }$，然而$\text{ BDR }$为$19.8\%$。

DeepCorr 方法也存在显著的局限性，可能导致怀疑者质疑该论文的结果。首先，使用$\text{ DeepCorr }$在像$\text{ Tor }$这样受欢迎的网络上进行关联攻击的计算复杂度很高，因为$\text{ DeepCorr }$网络通过流量对来估计其关联性，因此必须在$\text{ N × N }$对流量上进行评估。此外，由于该指标学习了在当前网络条件下预测关联流量的最佳特征，因此必须每3-4周重新训练一次。

B. 嵌入和三元组网络

$\text{ Schroff et al. }$ [26] 提出了一个基于$\text{ CNNs }$的人脸识别系统，称为$\text{ FaceNet }$。该系统不是直接比较高维人脸图像，而是将图像映射到低维向量（我们称之为特征嵌入），以便同一个人的两张图像具有非常相似的嵌入，而不同人的图像具有较低相似度的嵌入。更具体地说，$\text{ FaceNet }$试图训练一个具有“三元组”损失函数的$\text{ CNN }$，该函数应最小化同一个人的图像嵌入之间的欧几里得距离，并最大化不同人的图像嵌入之间的距离。因此，我们称这种$\text{ DNN }$训练模型为三元组网络。

$\text{ FaceNet }$通过三个嵌入网络副本进行训练——称为$\text{ Anchor (A) }$、$\text{ Positive (P) }$和$\text{ Negative (N) }$$\text{ CNNs }$,这些网络共同训练并共享权重，即一个统一的嵌入。该网络的每个输入由三张图像组成：$\text{ A, P }$和$\text{ N }$三元组。$\text{ A }$和$\text{ P }$始终选自同一个类别（即正对），而$\text{ A }$和$\text{ N }$选自不同的类别（即负对）。为了选择最佳的训练三元组，研究人员使用了几种三元组挖掘方法：随机($random$)，困难负样本($hard-negative$)和半困难负样本($semi-hard-negative$)。困难负样本意味着与$\text{ A }$三元组更接近的$\text{ N }$三元组。

他们工作的目标函数旨在确保$\text{ A }$和$\text{ P }$嵌入之间的$\text{ L2 }$距离与$\text{ A }$和$\text{ N }$嵌入之间的$\text{ L2 }$距离之间存在最小间距或差距$\text{ α }$。即， $||f(A)-f(P)|{|}_2^2+\alpha <||f(A)-f(N)|{|}_2^2$，其中$f$ 是嵌入，$\text{ α }$是正对（即$\text{ (A,P) }$）和负对（即$\text{ (A,N) }$）之间的间距($margin$)。

最近，$\text{ Sirinam et al. }$ [28] 研究了将三元组网络用于网站指纹识别，他们称之为“三元组指纹识别”（$\text{ TF }$）。他们使用网站轨迹嵌入之间的余弦相似度得分来计算三元组损失，并采用$\text{ DF }$ [5]架构作为三元组网络的子网络。在$\text{ TF }$的“攻击阶段”，他们没有直接计算嵌入对的余弦相似度得分，而是使用具有$\text{ N-shot }$学习概念的$\text{ k-NN }$分类器进行训练和测试，即用很少的训练样本来训练分类器。他们证明，使用在一组网站轨迹上训练的嵌入网络，他们能够用每类非常少的样本学习独立的轨迹集分类器，并且与使用大量训练集的$\text{ DF }$相比，达到了可比或更高的准确性。

$\text{ DeepCoFFEA }$的嵌入部分受这两项以前工作的启发。我们的主要区别在于，$\text{ DeepCoFFEA }$需要学习$\text{ Tor }$和出口流的嵌入，而$\text{ TF }$和$\text{ FaceNet }$分别学习了统一的嵌入（网站轨迹嵌入和人脸图像嵌入）。这是因为在客户端和 Tor 入口守卫之间的流量已被大幅修改，而与服务器和 Tor 出口中继之间的流量不同，因此我们的训练阶段包括两个独立的网络：一个始终在客户端和守卫之间的流量上运行的$\text{ Anchor }$网络，以及共享权重并始终在出口中继和服务器之间的流上运行的$\text{ Positive }$和$\text{ Negative }$网络（即$\text{ P/N }$网络）。为区别起见，我们称修改后的三元组网络为特征嵌入网络（$\text{ FENs }$）。此外，为了流量关联而不是网站指纹识别或人脸识别，还需要进一步修改。我们在附录 B 中讨论了为特征嵌入网络架构采用的卷积神经网络（$\text{ CNNs }$）。

与$\text{ TF }$类似，我们在三元组损失中使用余弦相似度，但不是$\text{ N-shot }$学习，我们直接计算所有流量对嵌入的余弦相似度，以分类流量对是否关联。关于我们的训练策略和$\text{ DeepCoFFEA }$的网络架构的更多细节出现在第 IV 节，特别是我们在第 IV-A 节讨论了如何将$\text{ FaceNet }$和$\text{ TF }$训练扩展到$\text{ DeepCoFFEA }$。

III. 动机

在本节中，我们将讨论为什么以及$\text{DeepCoFFEA}$如何改进了最先进的流量关联度量。

最先进攻击中的问题

在先前关于流量关联攻击的工作中$\text{[17]}$,$\text{[25]}$，攻击者针对关联度量 $d(t,x)$，并计算每对在给定时间窗口内观察到的迹线($trace$)的 $d(t_i,x_j)$；如果某个阈值$\text{τ}$，满足$d(t_i,x_j)\ge \tau$，攻击者就会输出$t_i$和$x_j$是相关的流。这种方法要求攻击者在用$\text{RAPTOR}$的情况下收集长的流序列$\text{[17]}$，或者在所有$n^2$个流对中评估一个开销昂贵的$\text{DNN}$模型，以使用$\text{DNN}$分类器$\text{[25]}$。

例如，在评估$\text{RAPTOR}$攻击时$\text{[17]}$，$\text{Sun et al.}$计算了每对$50$个$\text{ Tor }$连接的$\text{ Spearman }$等级相关系数，其中每个连接捕获了$300$秒的流量，并选择具有最高系数的出口迹线作为最佳匹配的$\text{Tor}$迹线。$\text{ DeepCorr }$ $\text{[25]}$训练了$\text{ CNN }$模型来学习一个度量$d(t,x)$，然后在测试阶段使用$5000$个输入和输出流的所有配对计算这个度量，其中关联对的数量是$5000$，非关联对的数量是$5000\times 4999$。特别是，他们基于二维数组$F_{i,j}=[t_i;x_j]$建立特征向量，其中 i , j ∈ { 1 , . . . , 5000 } i, j ∈ \{1, ..., 5000\} i,j∈{1,...,5000}并训练模型，以最小化模型输出和每对标签（$0$表示不关联，$1$表示关联）之间的交叉熵损失。通过这种训练方式，$\text{ DeepCorr }$需要每个$\text{ Tor }$流和出口流特征的成对组合，导致高空间和时间复杂度。例如，我们发现，$\text{ DeepCorr }$需要$5.5$天才能在$\text{ Tesla P100 GPU }$上测试$10000$个流。

此外，这种高时间复杂度限制了最大化数据以显著减少误报率的能力，这对于大规模流量分析至关重要。我们的放大技术通过每个$\text{ Tor }$流和每个出口流的$11$次$\text{ DNN }$传递，保持了可管理的范围。然而，尝试将这种技术应用于$\text{ DeepCorr }$中的每个成对组合会进一步加剧计算成本。

A. 我们的方法

我们引入了一种新的关联攻击类型，该攻击解决了先前$\text{Tor}$流量关联中计算复杂性和低$\text{BDR}$的问题，使用了两种技术的组合：特征嵌入网络（$\text{FENs}$）和放大。

$\text{ FENs }$与$\text{ 2n }$对。基于输入和输出流的所有配对创建特征向量会给$\text{ DeepCorr }$的训练和测试带来大量成本。每个比较 $d(t_i,x_j)$ 都必须评估$\text{ DeepCorr }$的$\text{ DNN }$。相比之下，$\text{ DeepCoFFEA }$为$\text{ Tor }$流（$\text{ G }$）和出口流（$\text{ H }$）学习了一对函数。为了关联含 $n$ 个流的集，$\text{ DeepCoFFEA }$计算 $n$ 个低维的$\text{ Tor }$嵌入$t_i=G(t_i)$，然后计算 $n$ 个低维的出口嵌入$x_j=H(x_j)$，总共进行$\text{ 2n }$次$\text{ DNN }$评估，然后仅使用这些嵌入向量执行$n^2$次低成本的余弦相似度计算$cos(t_i\cdot x_j)$。

更具体地说，$\text{ DeepCoFFEA }$联合训练了三个网络：锚点（$\text{A}$），正（$\text{P}$），和负（$\text{N}$），其中 $\text{P}$ 和 $\text{N}$ 共享权重。$\text{A}$使用$\text{Tor}$迹线学习函数$\text{G}$，而$\text{ P }$和$\text{ N }$根据出口迹线学习函数$\text{ H }$。如果我们有两个流对（$t_1,x_1$）和（$t_2,x_2$），可能的$\text{ A }$，$\text{ P }$和$\text{ N }$三元组（$a,p,n$）将是（$t_1,x_1,x_2$）或（$t_2,x_2,x_1$）。如该示例所示，$x_1$ 和 $x_2$ 都 ($both$ )出现在$\text{ P }$和$\text{ N }$网络中，这会对训练产生负面影响。因此，我们实现了一个修改后的三元组生成器，详细内容见第$\text{IV-A}$节。最终，使用三元组损失， DeepCoFFEA 训练这些嵌入网络，最大化 a 和 p 之间的相似性，同时最小化 a 和 n 之间的相似性（即最大化差异）。

因此，即使$\text{ DeepCoFFEA }$计算 $n^2$ 个嵌入的成对余弦相似度，它只需要评估 $2n$ 个$\text{ FENs }$。这显著降低了关联攻击的复杂性，因为嵌入对之间的低维余弦相似度计算比全流对上的深度$\text{ CNN }$计算要便宜得多。

与$\text{CTA}$的比较。使用降维来提高流量关联效率也是压缩流量分析（$\text{ Compressive Traffic Analysis CTA }$）[29]的一个核心思想。为了有效地关联受到网络噪声扰动的流，而不是通过$\text{ Tor }$路由，$\text{ Nasr, Houmansadr }$和$\text{ Mazumdar }$应用高斯随机投影算法将$\text{ IPD }$特征向量压缩成固定维度的余弦相似嵌入，然后使用局部敏感哈希（$\text{ LSH }$）进一步降低成对关联成本。对于$\text{ N }$个具有$\text{ L }$个包的流，传感基矩阵${\Phi }_{F\times L}$（其中$F<L$，导致$F$维特征向量），将时间和空间复杂性减少了$\frac{L}{F}$倍。此外，他们通过$\text{LSH}$扩展了$\text{CTA}$，避免比较一些嵌入对，将比较成本从 $O(N^{2}F)$ 减少到 $O(N^{1+q}F)$ ，其中$\text{1 + q < 2}$。

$\text{FENs}$也生成低维的特征嵌入向量，减少了一个$\text{L}$倍的复杂性。请注意，我们在第$\text{V-C}$节中经验选择了$\text{F}$。我们注意到，可以将$\text{DeepCoFFEA}$扩展为应用一个适应的$\text{LSH}$版本，以避免一些嵌入对之间的比较，但我们将这留待未来工作中。

我们在表$\text{I}$中总结了$\text{CTA}$，$\text{DeepCorr}$和$\text{DeepCoFFEA}$的复杂性比较。

表1：不同流相关性算法在评估 $N$ 个流且每个流包含 $L$ 个数据包时的空间和时间复杂度比较（注意 $R=\frac{L}{F}$，$R>1$ 且 $q<1$）

在第$\text{VI-C}$节中，我们还评估了使用$\text{Nasr, Houmansadr}$和$\text{Mazumdar}$的实现$\text{[29]}$的$\text{CTA}$（没有$\text{LSH}$，因此我们最大化给定误报率$\text{ FPR }$的$\text{ TPR }$）的准确性，并显示在应用于$\text{ Tor/Exit }$流对时，$\text{ CTA }$未能产生有用的关联结果。

放大。为了减少误报$\text{ FPs }$数量，我们从随机化算法中采用了放大的概念$\text{[27]}$，其中具有任何显著接受概率差异的随机化决策过程可以重复多次，以创建一个具有指数级小误报率和漏报率的决策过程。在$\text{DeepCoFFEA}$的上下文中，我们通过窗口分区应用放大技术，将流分成几个较小的部分重叠的子流（窗口）。然后，我们分别评估每个窗口，并以投票的方式聚合结果。

通过将 $t$ 和 $x$ 分成 $k$ 个离散窗口，并在每个窗口的子流上计算$\text{ G }$和$\text{ H }$之间的相似度，我们最终得到 $k$ 维向量，如果子流相关则为$1$，否则为$0$。这些是来自 $k$ 个窗口的投票，然后我们聚合这些投票以确定最终决策：如果至少有 $k-l$ 票为正，则流相关，否则不相关。例如，如果 $k=5$ 且 $l=1$，且某个流对的投票为$\text{[1,1,1,0,1]}$，则该对被预测为相关。通过调整 $k$ 和 $l$ 以适应给定的预期流量集大小 $n$ ，我们可以将误报率推低到 $\frac{1}{n}$ 的基本率以下，从而获得不趋向于 $0$ 的$\text{ BDR }$。

与$\text{DeepCorr}$[25]相比，攻击者不是学习比较度量 $d(t,x)$，而是对每个$\text{ Tor }$迹线计算 $G(t)$，对每个出口迹线在连续的窗口内计算 $H(x)$。我们期望只有一个出口迹线$x_j$与同一$\text{ Tor }$迹线 $t_i$ 至少有 $k-l$ 个投票匹配。在第$\text{ VI-C }$节中，我们展示了放大可以显著减少对成对余弦相似度计算的误报数量，从而使$\text{ DeepCoFFEA }$比最先进的关联技术具有更低的误报率和更高的$\text{ BDR }$。

此外，我们的模型不是基于标签学习的；相反，它们学习相关和不相关流对之间的统计差异，从而实现更有效的特征提取以及更广泛的模型。值得注意的是，我们在第$\text{ VI-B }$节中的实证研究展示了$\text{ DeepCoFFEA }$对基于填充的防御的鲁棒性。

IV. $\text{ DEEPCOFFEA }$攻击

在本节中，首先，我们详细说明了如何扩展先前的工作[26], [28]，训练$\text{ DeepCoFFEA FENs }$生成$\text{ Tor }$和出口流嵌入。接下来，我们描述了几种计算两个嵌入向量是否相关的方法，并讨论了$\text{ DeepCoFFEA FENs }$的架构和涉及的超参数。

A. 用于关联研究的特征嵌入网络

为了开发用于$\text{ DeepCoFFEA }$攻击的$\text{ FENs }$，我们从$\text{ TF }$网络架构[28]开始，并对其进行调整以适应流量关联攻击模型。作为初步步骤，我们尝试直接使用他们的网络（即，让$\text{ A }$，$\text{ P }$和$\text{ N }$网络共享权重）在$\text{ Tor }$流、出口流和出口流三元组上训练，但正如预期的那样，我们发现三元组损失在训练过程中没有减少。然后我们做了以下关键更改来改进这一初步结果。

两个不同的网络。使用$\text{ TF }$架构，三元组损失没有收敛，原因有两个。首先，$\text{ Tor }$和出口流是在不同点收集的不同流量，其中$\text{ Tor }$迹线是在客户端和守卫节点之间收集的，而出口流量是在出口中继和网页服务器之间收集的。其次，$\text{ Tor }$迹线在每个窗口中的数据包数量相对较少，需要两个网络的输入维度不同。因此，与$\text{ FaceNet }$[26]和$\text{ TF }$不同，我们采用了两个独立的模型：一个用于$\text{ A }$网络，另一个用于$\text{ P }$和$\text{ N }$网络的通用模型。这种方法减少了初始损失值，并进一步帮助实现了随训练而下降的损失曲线。然而，我们仍然只在训练损失上取得了较小的下降。为了进一步改进，我们修改了三元组生成器，如下所述。

三元组 Epoch 生成器($TripletEpochGenerator$)。$\text{ TF }$实现从正例和反例中选择三元组，而不考虑特定的负例是否已经在先前的输入中使用过，这导致许多出口流既被选择为正例$\text{ p }$，也被选择为反例$\text{ n }$。这迅速使三元组损失冻结在某个值，因为某些流对被交替用于最大化和最小化三元组损失函数中的关联。为了解决这个问题，我们将出口流分为两组，并实现了三元组生成器，从一组中选择$\text{ p }$，从另一组中选择$\text{ n }$。这样，我们确保在一个批次内$\text{ p }$和$\text{ n }$总是不同的。然而，我们发现，当这种保证扩展到一个 $epoch$ 时，可以获得更好的损失曲线。注意，我们在所有实验中将一个 $epoch$ 设置为$128$个批次。因此，我们不断打乱出口迹线集，并在每个$epoch$将其分成两个独立的池。通过这种 $epoch$ 生成器，我们能够达到接近零的训练损失值。

损失函数。$\text{ DeepCoFFEA FENs }$被训练以最小化以下三元组损失函数：
$$\max (0,corr(G(a),H(n))-corr(G(a),H(p))+\alpha )$$
换句话说，$\text{ FENs }$的目标是学习满足$corr(G(a),H(n))+\alpha <corr(G(a),H(p))$的嵌入 $G$ 和 $H$。“负”三元组$\text{ n }$在训练$\text{ FENs }$中起着重要作用，因为在当前网络参数下我们已经有$corr(G(a),H(n))+\alpha <corr(G(a),H(p))$的“容易($easy$)”负例将不会对损失做出贡献，而$corr(G(a),H(p))<corr(G(a),H(n))$的“难($hard$)”负例将总是导致正损失。因此，我们使用“半难($semi-hard$)”负例，其中$corr(G(a),H(n))<corr(G(a),H(p))+\alpha$。即，半难负例“足够难($hardenough$)”，以至于它们对损失做出贡献，但“足够容易($easyenough$)”，通过调整参数可以将损失推到零。因此，通过调整$\alpha$，我们可以调整正负对之间强制执行的边距。在下一节中，我们描述了如何选择余弦相似度作为关联度量（即，$corr$）；我们通过超参数调整选择 $\alpha$，如第V-C节所述。

B. 关联方法

基于 $G$ 和 $H$ ，我们提取$\text{ Tor }$和出口流嵌入，$G(t_{i,w})$和$H(x_{i,w})$，其中 $t_i$ 是$\text{ Tor }$流，而 $x_i$ 是出口流，$f_{i,w}$是流$f_i$的第$w$个窗口，并且$0\le i<n$，$1\le w\le k$，其中， $n$ 为流数和 $k$ 为窗口数。然后，我们计算每个$0\le i,j<n$和每个窗口$w\in 1,...,k$的关联值 $d(G(t_{i,w}),H(x_{j,w}))$ ，对于每个 $n^2$ 个潜在的流配对。第三，基于这些关联值，如果$d(G(t_{i,w}),H(x_{j,w}))$足够高，我们记录一个 $1$ 票，否则为 $0$ 票。最后，我们决定$t$和$x$是否相关，如果它们至少收到$k-\ell$个$1$票。我们考虑了三种不同的计算这些相似性“票”的方法：$\text{ softmax }$函数，$\text{ k-NN }$分类器和余弦相似度。在本节中，我们描述这些选项。

Softmax。我们应用$\text{softmax}$函数，它将嵌入正则化为一个向量，该向量遵循概率分布，总和为1，来处理特征嵌入。基于这个概率向量，我们可以通过取具有最高概率的对数来确定预测的“标签”。为了研究$\text{ Tor }$和出口流对($\text{t, x}$)，我们基于$\text{ argsort(soft(G(t))) }$和$\text{ argsort(soft(H(x))) }$ 计算 $\text{t}$ 和 $\text{x}$ 的前 $\text{h}$ 个标签，其中 $\text{soft}(x_i)=\frac{e^{x_i}}{{\sum }_{j=1}^n{e}^{x_j}}$ 。如果匹配的流出现在前几个标签中，我们认为它可能是相关的流。通过将$\text{h}$从$2$到$31$变化，我们绘制出$\text{TPR}$与$\text{FPR}$的关系。

结合聚类的k近邻算法。我们使用$\text{ Tor }$流训练$\text{ k-NN }$分类器，并使用出口流测试它们。我们进一步使用出口流训练分类器，并使用$\text{ Tor }$ 流测试它们，以找到最佳设置。对于任一方向，我们首先必须在训练之前标记训练集中的流。我们探索了$\text{k-means}$[30]和$\text{ Spectral clustering }$[31]来标记训练流。对于所有聚类，我们将$\text{k}$从$2$变为$295$，导出需要训练的$2$到$295$个标签。在使用聚类标记的$\text{ Tor }$（或出口）流训练$\text{ k-NN }$模型后，我们使用出口（或$\text{ Tor }$）流评估模型。然后我们对出口流的预测标签和聚类算法决定的$\text{ Tor }$流的标签进行成对比较。如果标签在相关流中相同，则为$\text{TP}$。如果标签在不相关流中相同，则为$\text{FP}$。根据初步实验，我们决定使用$\text{ Tor }$流训练$\text{k-NN}$模型，并进一步使用出口流测试它们。我们还凭经验选择了具有余弦相似度的$\text{ Spectral clustering }$来标记$\text{ Tor }$流，并在不同的$\text{k}$（从$2$到$295$）下计算$\text{TPR}$和$\text{FPR}$。

余弦相似度。余弦相似度测量投射在多维空间中两个向量之间角度的余弦值。它捕捉的是角度，而不是欧几里得距离之类的大小。由于$\text{ FENs }$是基于余弦相似度（$\text{cos}$）的三元组损失训练的，我们自然地研究了这种相似度得分作为$\text{ DeepCoFFEA }$的相似度度量。也就是说，我们计算了所有$\text{ Tor }$和出口嵌入对($t_{i,w}$, $x_{j,w}$)的每个窗口$\text{w}$的相似度得分，其中，对于$\text{n}$个测试流对，$0\le i,j<n$。对于每一对，如果$cos(G(t_i,w),H(x_j,w))\ge \tau$对于某个阈值$\tau$，我们记录1票，否则为0票。通过改变$\tau$，我们绘制出$\text{ ROC }$图。我们在第 V-E 节中展示了如何选择 $\tau$。

如图2所示，余弦相似度方法优于其他方法。

图2：不同评估方法的ROC曲线（注意x轴为对数刻度，RG代表随机猜测）

余弦相似度显然更有效地区分相关流和不相关流，而基于$\text{softmax}$的区分和聚类没有提取出有效的关联标签。在整篇论文的评估中，我们采用了余弦相似度。

C. $\text{FEN}$架构
如先前的工作所示[5], [6], [25]，$\text{CNNs}$通常学习到更有用的特征来分析$\text{ Tor }$流量。因此，我们进一步探索了两种不同的架构，一种基于一维卷积（$\text{Conv}$）层，另一种基于二维$\text{Conv}$层。我们采用了$\text{DF}$[5]和$\text{DeepCorr}$[25]架构，因为它们在生成基于客户端和守卫节点之间迹线的网站指纹和基于进入和流出$\text{ Tor }$网络的流量关联特征方面非常有效。我们凭经验得出结论，基于一维 $CNN$ 的 $DF$ 架构表现更好；更具体地说，我们无法用$\text{DeepCorr}$架构将三元组损失减少到0.01以下。

如图3所示，两个$\text{FEN}$模型被学习，在测试阶段，$\text{ A }$网络将$\text{ Tor }$流的输入映射到特征嵌入向量，而$\text{P/N}$网络将出口流的输入映射到特征嵌入向量。

图3：$\text{ DeepCoFFEA }$示例场景：在此示例中，我们有十对（$t_i,x_i$）流对和五个窗口（$W1,...,W5$）。首先，我们执行了不重叠窗口划分，生成了两个训练集$T_{tr}$和$X_{tr}$，以及十个测试集$T_{te1},...,T_{te5},X_{te1},...,X_{te5}$。然后，我们使用$T_{tr}$和$X_{tr}$训练 $\text{ DeepCoFFEA }$ 特征嵌入网络（$\text{ FEN }$），并使用 $\text{ A }$和 $\text{ P/N }$ 模型为每个测试集（$T_{t{e}_w},X_{t{e}_w}，w=1,...,5$）生成特征嵌入向量。接着，我们计算了每个测试窗口的成对余弦相似度得分，如果得分大于$\tau$则投票为$1$，否则为$0$。最后，我们汇总这些结果，如果流对获得至少四个$1$票，我们就认为该流对是相关的

每个$\text{FEN}$包括四个一维$\text{Conv}$块($Convblocks$)，包括两个一维$\text{Conv}$层，随后是一个最大池化层。之后是一个全连接输出层，它生成特征嵌入。我们基于参数优化选择了输入和输出维度、优化器和学习率，如表II所示。

表2：选择的超参数及用于超参数优化的搜索空间

最后，我们在图3中概述了一个$\text{ DeepCoFFEA }$评估示例。

V. $\text{ DEEPCOFFEA }$ 实验详情

在本节中，我们详细介绍了实验设置，包括数据集、特征、窗口分区、超参数优化以及第VI节中评估 $\text{ DeepCoFFEA }$ 的指标。

A. 输入预处理

数据收集。 据我们所知，Nasr, Bahramali 和 Houmansadr [25] 收集了在 $\text{ Tor }$ 网络上收集的最全面的流量关联数据集，并反映了训练和测试数据之间不同电路使用和时间间隔的影响。我们重新解析了 $\text{ DeepCorr }$ 集的原始捕获数据，而不是使用出站和入站的数据包是分开的预处理的数据。我们有选择地选择了流对，以确保所有连接目的地都是唯一的，最终得到 $12,503$ 对流对。我们称这个集合为 $\text{ DeepCorr }$ 数据集。

然而，我们有兴趣评估一些仅靠该数据集无法解决的附加场景，包括超过三个月的训练/测试间隔、训练和测试集没有共同电路的情况，以及测试具有大规模非训练集的能力。因此，我们收集了自己的数据集（ DCF 集），模仿了 DeepCorr 的收集方法，但有一些小的不同。

首先，我们使用物理机器运行 $\text{ Tor }$ 客户端和 $\text{ SOCKS }$ 代理服务器来收集出口流，而原方法是在 $\text{ VMs }$ 中运行客户端。其次，我们使用 $1,051$ 批次爬取了 $60,084$ 个 $\text{ Alexa }$ 网站，每批会重建电路。我们每个样本捕获完整 $60$ 秒，以确保捕获包括初始页面加载后的任何动态内容。

第三，我们在 $\text{ Ethernet }$ 层捕获数据包，而 $\text{ DeepCorr }$ 在 $\text{ IP }$ 层收集。这一变化旨在去除 $\text{ DeepCorr }$ 集中出现的超过 $\text{ MTU }$ 大小的数据包，更好地模拟在线路上看到的流量。为了在数据集之间提供可移植性，我们在训练模型时将具有 $\text{IPD}$ 值为 $0$ 的相邻数据包组合在一起（例如，数据包在同一时刻到达/发送）。最后，我们过滤掉了数据包计数少于 $70$ 的流，这比 $\text{ DeepCorr }$ 评估模型对 $300$、$400$ 和 $500$ 数据包的跟踪时应用的 $300$、$400$ 和 $500$ 要短。这样，$\text{ DCF }$ 集比 $\text{ DeepCorr }$ 集导致更多的流被填充或截断。如附录 D 中的图 11 所示，我们探索了各种过滤器以去除长度低于 $70$、$300$ 和 $500$ 的短流，$\text{ DeepCoFFEA }$ 的性能未受到过滤器大小的显著影响。

在 $60,084$ 对流对中，我们选择了每窗口数据包数大于 $10$ 的对，总共得到 $42,489$ 对。请注意，为了展示模型在不同电路和站点之间的可移植性，所有 $42,489$ 个连接都涉及唯一的目的地。这确保了训练和测试集之间不存在重叠的目的地和电路使用。

此外，我们还使用 $\text{ obfs4 Pluggable Transport }$ 收集了 $13,000$ 个流，用于评估对抗防御流的效果。我们还捕获了一些在 2020 年 4 月爬取的旧流，用于评估训练和测试数据之间存在长时间间隔的实验场景。

为了进一步评估 $\text{ DeepCoFFEA }$ 对轻量级网站指纹防御（包括 $\text{ WTF-PAD }$ [32] 和 $\text{ FRONT }$ [33]）的表现，我们还使用研究人员共享的官方实现模拟了防御流 [34], [35]。

窗口池化。$\text{DeepCorr}$ 的 $n$ 对相关流量对可以用于创建最多 $n^2$ 个输入对，在 $\text{DeepCoFFEA}$ 中，每对相关流量对最多只能生成一个三元组，从而为 $\text{FEN}$ 模型创建的训练示例要少得多。我们通过三元组挖掘选择一个更有用的半难负例，而不是将所有可能的对都输入 $\text{ FENs }$。例如，如果我们有三对流，（$t_1,x_1$），（$t_2,x_2$），和（$t_3,x_3$），我们的方法生成的输入对是 $[(t_1,x_1,x_2)，(t_2,x_2,x_1)，(t_3,x_3,x_2)]$。根据我们的周期生成器，只有第一个和第三个三元组可以出现在同一个周期中。

通过将流分成 $k$ 个窗口，我们能够跨窗口池化关联对，使 $\text{ FEN }$ 训练集大小增加了 $k$ 倍。更具体地说，我们根据调优期间选择的预定义时间间隔划分每个流，并构建训练集。基于 $10,000$ 对训练流，我们使用所有 $k$ 个流窗口构建了训练集，从而得到 $k\cdot 10,000$ 个关联流对。相反，我们为每个窗口分别构建了 $k$ 个测试集，其中有 $n$ 对（$2094\le n\le 10,000$）。因此，该设置导致在 $k$ 个窗口中使用 $n$ 个 $\text{ Tor }$ 和出口流对测试 $\text{ DeepCoFFEA }$。我们在第V节 B 部分详细介绍了窗口分区。

特征。与 $\text{ DeepCorr }$ [25] 一样，我们使用数据包间延迟（$\text{IPD}$）和数据包大小信息从流中构建特征向量。由于我们为 $\text{ DeepCoFFEA }$ 选择了 $\text{1D}$ $\text{ CNN }$ 模型，我们通过连接 $\text{IPD}$ 和数据包大小的向量来构建一维数组，$v_i=[I_i||S_i]$，用于双向的 $\text{ Tor }$ 和出口流。这里，向量 $I_i$ 由上行 $\text{IPD}$（$I^u$）和下行 $\text{IPD}$（$-I^d$）组成，向量 $S_i$ 由上行数据包大小（$S^u$）和下行数据包大小（$-S^d$）组成。

我们还基于其他组合评估了 $\text{ DeepCoFFEA }$，例如 $v_i=[I_i^u||S_i^u||I_i^d||S_i^d]$ 或 $[I_i^u||I_i^d||S_i^u||S_i^d]$，这些特征向量导致性能更差，可能是因为上下行流量的局部交织允许（局部）$\text{ CNN }$ 过滤器提取更相关的特征。同样，我们尝试基于仅使用 $\text{IPD}$ 向量或数据包大小向量的特征集训练 $\text{ FENs }$，发现这些效果也较差。

最后，我们仅使用数据包大小特征评估了 $\text{ DeepCoFFEA }$。在考虑数据包时间和大小信息时，相关流对之间的余弦相似度得分更高，这表明 $\text{IPD}$ 序列为相关流提供了信息丰富的特征。

B. 窗口划分

我们测试了两种划分策略，一种基于时间间隔，另一种基于数据包数量，然后决定使用时间间隔作为窗口间隔，因为它产生了更好的三元组损失曲线。这是因为$\text{ Tor }$流在每个时间段内的数据包数量通常少于出口流，所以当使用基于固定数量数据包的窗口时，第二个及以后的窗口流不再对应于相同的流量。我们在第V-C节中根据经验确定了窗口数量和间隔。

我们进一步探索了重叠窗口划分，创建了在后续窗口之间具有某些间隔重叠（$\delta$）的重叠窗口，我们称之为 $\delta -on$ 划分。如图4所示，当窗口间隔长度为 $t$ 且总流量持续时间为 $d$ 时，$\delta -off$ 划分导致$\lfloor \frac{d-t}{t}\rfloor +1$个间隔，其中窗口$w$是间隔$[t\times w,t\times w+t)$。相比之下，$\delta -on$ 导致$\lceil \frac{d-t}{t-\delta }\rceil +1$个间隔，其中窗口 $w$ 是间隔$[(t-\delta )\times w,(t-\delta )\times w+t)$。例如，当$t=5,d=25,\delta =3$时，$5$个 $\delta -off$ 窗口是间隔$[0,5)$、$[5,10)$、…、$[20,25)$，而$11$个 $\delta -on$ 窗口是间隔$[0,5)$、$[2,7)$、…、$[20,25)$。因此，使用 $\delta -on$ ，我们创建了更多的窗口，导致更多的训练流对，并通过聚合更多窗口的结果增加了$\text{TP}$和$\text{FP}$的差异。换句话说，$\delta -on$ 增加了$\text{ DeepCoFFEA }$的放大效果，如第VI-B节所示显著提高了性能。

C. 超参数优化

超参数的选择对于提高$\text{ DeepCoFFEA }$的性能尤其是$\text{ FENs }$的行为至关重要，从而导致更低的三元组损失。因此，我们使用一台$\text{ Nvidia RTX 2080 }$和一台$\text{ Tesla P100 GPU }$探索了表II中显示的参数搜索空间。尽管我们使用$\text{ DCF }$集来调整这些参数，但我们注意到在选择这些参数时，$\text{ DeepCoFFEA }$的性能对数据集并不是非常敏感。一个例外是输入维度；每个窗口的流量速率可能会有显著变化，因此，虽然本节中的其他参数可以在不进一步搜索的情况下使用，但输入维度应根据新的网络条件进行调整。这里我们详细说明了如何选择参数范围。

窗口设置参数。 $\text{ FENs }$的流输入长度应在可接受的训练成本范围内优化模型性能。

我们首先调查了第一个窗口间隔的最短持续时间，其中位数数据包数为 $100$ 个数据包。注意，$\text{ DeepCorr }$选择了 $100$ 个数据包作为他们探索的最短流长度[25]。在附录C的表VI中计算了 $2$ 到 $5$ 秒间隔的中位数数据包数后，我们确定五秒会给出最佳性能。

此外，我们将总流量持续时间的搜索空间设置为最多 $35$ 秒，因为如附录C的表VII所示，35秒后的窗口数据包数变得少于 $100$ 个数据包。其次，在 $\delta =0$ 的情况下，我们探索了各种总流量持续时间，因为$\text{ DCF }$性能在 $25$ 秒后开始下降。第三，根据附录C的表VIII，我们使用 $11$ 个窗口的最小和最大流长度作为$\text{ Tor }$流长度和出口流长度的搜索空间，分别为Tor 流的[106,501]和出口流的[244,855]。

窗口划分参数。 首先，我们研究了不同 $\delta$ 的 $\delta -on/off$ 设置的影响。如第V-B节所述，$\delta$-on创建$\lceil \frac{25-5}{5-\delta }\rceil +1$ 个窗口，即， $\delta =1$ 时创建 $6$ 个窗口， $\delta =2$ 时创建 $8$ 个窗口， $\delta =3$ 时创建 $11$ 个窗口。注意，我们省略了$\delta =4$，因为 $21$ 个窗口导致 $218,610$ 个训练流对的余弦相似度矩阵太大，无法使用我们的资源计算，因此我们无法选择半难负例。我们在图5a中报告了 $3-on$、$2-on$ 和 $1-on$设置的 $\ell =2$ 和 $\ell =1$ 的结果。尽管 $\delta =1$ 未能改善$\text{ DeepCoFFEA }$性能，但随着 $\delta$ 的增加，$\text{ DeepCoFFEA }$受益于增强的放大能力，通过更多的训练流对和更多的投票结果。图5a显示，较大的$\delta$通常会通过使用更多投票得到更好的$\text{ ROC }$曲线，具有更高的$\text{ TPR }$，表明资源更丰富的攻击者可以通过使用 $4-on$ 设置进一步改善 $3-on$ 的结果。根据图5a中显示的结果，我们在第VI节中评估了 $3-on$ 设置下的$\text{ DeepCoFFEA }$。

模型参数。 由于三元组损失旨在通过距离边距 $\alpha$ 将正对与负对分开，我们首先调整 $\alpha$ 以最大化相关对的余弦相似度得分与不相关对的余弦相似度得分之间的差异。使用 $\alpha =0.1$ 时，$\text{ FENs }$达到了最低损失，我们注意到$\text{ TF }$[28]也使用了相同的值。其次，如第IV-A节所述，我们实现了自己的三元组时期生成器，从独立池中为正负网络选择三元组。我们进一步调整了这些独立池需要更新的频率（即，洗牌并分为两个池）。最终，当更频繁地更新池时，$\text{ FEN }$性能得到了改善。因此，我们建议每个 $epoch$ 而不是每 $2-10$ 个 $epoch$ 更新它们。

最后，我们进一步调整了$\text{ SGD }$优化的学习率和输出节点的数量，这是由训练的$\text{ FENs }$生成的特征嵌入的维度。

关联参数。 我们必须决定在三元组损失函数中计算的关联度量，因此我们探索了前期研究提出的余弦相似度和欧几里得距离度量[26]。有趣的是，使用欧几里得距离函数时，损失从未减少。

最后，在为每个窗口计算所有测试对的余弦相似度得分后，我们发现当$11$个窗口中的$9$票和$10$票时，$\text{ DeepCoFFEA }$性能是可比较的，而当$8$票和$11$票时，性能有所下降（图5b）。因此，我们决定如果流对在$11$个窗口中至少有$9$票为$1$票，则认为它们是相关的，因为$\text{ DeepCoFFEA }$在低于$10^{-4}$的$\text{ FPR }$下略微增加了$\text{ TP }$。

D. 指标

在本节中，我们介绍第VI节中使用的$\text{TPR}$、$\text{FPR}$和$\text{BDR}$指标的定义。

• $\text{TPR}$： 真阳率是真正相关流对被分类为“相关”的比例。
• $\text{FPR}$： 假阳率是不相关流对被分类为“相关”的比例。
• $\text{BDR}$： 流量关联中的贝叶斯检测率是在关联函数检测为“相关”的情况下，流对实际上是“相关”的概率，其计算公式为：
  $$P(P|C)=\frac{P(C|P)P(P)}{P(C|P)P(P)+P(C|N)P(N)},$$
  其中$P(P)$是流对相关的概率，$P(C)$是流量关联函数将流对判断为相关的概率，而$P(C|P)$和$P(C|N)$分别用$\text{TPR}$和$\text{FPR}$替换。
  我们注意到精度通常用于替代$\text{BDR}$。我们在本文中选择$\text{BDR}$，因为基率的影响在计算中显示得更为清晰。

图6. $\text{ DeepCoFFEA }$（损失≈$0.0018$）和$\text{ DeepCorr }$在局部和全局阈值下的性能。

此外，我们通过改变关联阈值参数，使用$\text{ROC}$曲线来测量最新攻击和$\text{ DeepCoFFEA }$的性能。

E. 相似度阈值

在$\text{ DeepCoFFEA }$中，嵌入特征关联阈值 $\tau$ 用于控制在给定时间窗口内被分类为“可能相关”的每个$\text{ Tor }$轨迹的出口轨迹数量。我们可以通过设置一个适用于所有余弦相似度的全局阈值 $\tau$ 间接控制这个数量（通常，随着 $\tau$ 增加，被分类为可能相关的对会减少）；或者我们可以直接控制这个数量，通过将离给定$\text{ Tor }$轨迹窗口 $t_i$ 最近的 $\kappa$ 个出口轨迹（由$cos(G(t_i),H(x_j))$测量）分类为可能相关。这后一种选择对应于为每个 $t_i$计算一个局部阈值，通过对列表$d_{i,1},...,d_{i,n}$进行排序，其中$d_{i,j}=cos(G(t_i),H(x_j))$，并选择第 $\kappa$ 个元素作为 $t_i$ 的阈值。

我们探索了这两种方法，发现如图6所示，随着$\tau$的增加（那些产生的$\text{FPR}$低于$10^{-3}$），$\text{TP}$的数量下降得更快，而$\kappa$增加，可能是由于某些窗口中许多流具有相似的嵌入。通过局部选择阈值（即基于每个$\text{ Tor }$流的成对得分分布），$\text{ DeepCoFFEA }$能够检测更多的相关流，同时控制$\text{FP}$的数量。

我们还评估了使用局部阈值的$\text{ DeepCorr }$，尽管他们在论文中采用了全局阈值。如图6所示，使用$\kappa$并没有改善$\text{ DeepCorr }$的性能，$\text{FPR}$也没有下降到$10^{-3}$以下，这表明大多数不相关对的关联得分与相关对的得分相似，减少$\kappa$并没有帮助减少假阳性。因此，我们对$\text{ DeepCorr }$使用 $\tau$ ，对$\text{ DeepCoFFEA }$采用 $\kappa$ 作为曲线参数，在第VI节中生成$\text{ DeepCoFFEA }$的$\text{ROC}$曲线。

注释

• 【1】贝叶斯检测率
  - 贝叶斯检测率（Bayesian Detection Rate，简称 BDRs）是一种用于评估分类器性能的指标，尤其在二分类问题中。这种指标基于贝叶斯决策理论，结合了检测率（也称为灵敏度或召回率）和错误率（误报率）来评估分类器在实际应用中的表现。

  定义与计算

  贝叶斯检测率通过最大化贝叶斯决策理论中的期望收益或最小化期望损失来评估分类器的性能。它可以通过以下几个步骤来理解和计算：

  1. 混淆矩阵（Confusion Matrix）：

     • TP（True Positive）：正确识别为正类的数量。
     • TN（True Negative）：正确识别为负类的数量。
     • FP（False Positive）：错误识别为正类的数量。
     • FN（False Negative）：错误识别为负类的数量。

  2. 检测率（Detection Rate，DR）：

     • 也称为灵敏度或召回率，计算公式为：
       $$\text{DR}=\frac{\text{TP}}{\text{TP}+\text{FN}}$$
     • 反映了正类被正确识别的比例。

  3. 误报率（False Alarm Rate，FAR）：

     • 计算公式为：
       $$\text{FAR}=\frac{\text{FP}}{\text{FP}+\text{TN}}$$
     • 反映了负类被错误识别为正类的比例。

  贝叶斯检测率的计算

  贝叶斯检测率结合了检测率和误报率，通过加权平均或其他形式的组合来评估分类器的整体性能。具体计算方法可以根据具体应用场景和贝叶斯决策理论中的损失函数或收益函数进行调整。

  贝叶斯决策理论的应用

  贝叶斯决策理论用于最小化期望损失或最大化期望收益，具体方法包括：

  • 期望损失：对于每个可能的分类结果（TP, TN, FP, FN），计算其损失（或收益）并根据其概率进行加权平均。
  • 贝叶斯决策准则：选择使期望损失最小或期望收益最大的决策阈值。
    
    在实际应用中，贝叶斯检测率通常用于：
  • 入侵检测系统：评估系统在检测真正的入侵行为和误报之间的权衡。
  • 医学诊断：评估诊断工具在检测疾病和避免误诊之间的效果。
  • 信用卡欺诈检测：评估检测系统在识别欺诈交易和避免误报正常交易之间的表现。
    
    贝叶斯检测率（BDRs）是一种结合了贝叶斯决策理论的分类器性能评估指标，通过考虑检测率和误报率，以及期望损失或收益来衡量分类器的实际应用效果。它在许多实际场景中具有重要的应用价值，帮助优化分类器的性能和决策阈值。