【科研】ET-BERT资料库梳理

已于 2023-01-30 15:05:02 修改
阅读量2k 收藏 13
点赞数 5
分类专栏： 科研 文章标签： 深度学习 人工智能
于 2023-01-30 12:01:31 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41581765/article/details/128799921
版权

作者原repo链接

https://github.com/linwhitehat/ET-BERT

0.资料总库

分为数据+模型+语料库
在这里插入图片描述

1.数据集

包含fine-tuning数据集（cstnet-tls 1.3）与公开数据集（USTC-TFC、VPN-app、VPN-service的数据包级和流级）目录链接
在这里插入图片描述

1.1 微调-数据集组成

即fine-tuning_dataset目录下的数据集，fine-tuning的数据集是tsv的
在这里插入图片描述

1.2 预训练-数据包级-组成

即Open-Datasets目录下的数据集
在这里插入图片描述

1.3 预训练-流级-组成

即Open-Datasets\flow-level目录下的数据集
在这里插入图片描述

1.4 预训练-组成(不在总资料库的数据集)

这部分应该是预训练使用的数据集（不太确定，等我看看代码先:(

cstnet-tls 1.3 dataset
下面是cstnet-tls 1.3 dataset的label：
在这里插入图片描述
该数据集包含两个压缩文件，一个是flow级别的，另一个是packet级别的：
在这里插入图片描述
以flow_dataset为例：
CSTNET-TLS 1.3的流级别的数据集

  1. 该数据集有120个类别
  2. 每个类别有500个样本
  3. 数据部分以x_开头，标签部分以y_开头
  4. 有5种数据类型，包括direction, length, message type, time and datagram
  5. 不同的数据文件分别被划分为train, test, valid三种

在这里插入图片描述

2. corpora（语料库）

语料库
在这里插入图片描述

3. 模型

预训练模型
在这里插入图片描述

深入研究AI人工智能领域的分类标准
AI天才研究院
04-24 514
人工智能作为一门跨学科领域，其技术体系和应用场景日益复杂多样。建立科学合理的分类标准对于AI研究、开发和应用具有重要意义。系统梳理AI领域现有的主要分类方法分析不同分类标准的技术基础和适用场景提出多维度的综合分类框架探讨分类标准在实际项目中的应用价值研究范围涵盖从基础理论到产业应用的完整AI技术栈，包括机器学习、深度学习、知识表示、自然语言处理、计算机视觉等核心技术领域。首先介绍AI分类的背景和意义然后详细分析各种分类标准及其技术基础接着通过具体案例展示分类标准的应用。
大语言模型应用指南：从人工智能的起源到大语言模型
AI天才研究院
06-27 1671
人工智能（Artificial Intelligence，AI）自诞生以来，一直是计算机科学领域的重要研究方向。早期的AI系统主要依赖于专家知识和规则库，通过逻辑推理和符号计算来解决问题。然而，这种基于规则的系统在处理复杂和多变的现实世界时，表现出了明显的局限性。随着数据量的爆炸式增长和计算能力的提升，研究者们开始探索基于数据驱动的机器学习方法，尤其是深度学习（Deep Learning），从而引发了AI领域的革命性进展。
【科研】ET-BERT代码分析
qq_41581765的博客
01-31 5916
论文使用的TLS1.3数据集是从 2021 年 3 月到 2021 年 7 月在中国科技网 (CSTNET) 上收集的。【困惑点1】执行代码里使用的encryptd_vocab.txt不造从哪里生成的，，待我看看代码。：由于可能存在原始PCAP数据的复杂性，建议在报错时执行以下步骤检查代码执行情况。用于微调的数据集，分为train、test、valid。微调数据集的链接—>如果要使用自己的数据集的话，需要检查数据格式是否与。数据集微调阶段的核心思想是先对数据集中。的数据进行文件夹区分，然后对数据进行。
ET-BERT
weixin_47532216的博客
02-18 1518
ET-BERT is a method for learning datagram contextual relationships from encrypted traffic, which could be directly applied to different encrypted traffic scenarios and accurately identify classes of traffic. First, ET-BERT employs multi-layer attention in
探秘ET-BERT：网络加密流量分类的利器
gitblog_00006的博客
06-09 1332
探秘ET-BERT：网络加密流量分类的利器 项目地址:https://gitcode.com/gh_mirrors/et/ET-BERT 在网络世界中，数据安全与隐私保护至关重要，加密流量分析成为了一个日益重要的研究领域。为此，我们引荐一个创新项目——ET-BERT，这是一个基于预训练Transformer模型的加密流量分类方法，它能准确识别不同场景下的流量类型，同时保护数据的隐私性。 1. 项目...
ET-BERT: A Contextualized Datagram Representation with Pre-training Transformers for Encrypted Traff
XZHBUT的博客
09-01 1395
从应用层的角度来看，
【RNN+加密流量A】ET-BERT: A Contextualized Datagram Representation with Pre-training Transformers for...
一个努力生活的人的博客
11-02 4432
原文题目中文题目：ET-BERT：一种基于预训练转换器的数据报上下文化表示方法，用于加密流量分类发表会议发表年份：2022-4-25作者latex引用加密流分类需要从内容不可见和不平衡的流量数据中获取判别性和鲁棒性的流量表示，以实现准确的分类，这是实现网络安全和网络管理的一项挑战，但也是必不可少的。现有解决方案的主要局限是高度依赖深度特征，而深度特征过度依赖于数据大小，难以在未见数据上进行泛化。如何利用开放域未标记的流量数据学习具有较强泛化能力的表示仍然是一个关键的挑战。
探索网络的未来：ET-BERT 深度学习加密流量分类模型
gitblog_01165的博客
08-16 423
探索网络的未来：ET-BERT 深度学习加密流量分类模型 项目地址:https://gitcode.com/gh_mirrors/et/ET-BERT 在网络安全和数据隐私日益重要的今天，ET-BERT 提供了一种创新的方式来处理加密交通流的识别问题。作为一个基于深度学习的网络流量分类模型，ET-BERT 利用大规模无标签流量中的多层注意力机制，学习数据包间的上下文关系以及传输间的关系，从而实现对...
AIGC从入门到实战：ChatGPT 简介：从 GPT1 到 GPT4 的发展历程和应用领域
AI天才研究院
06-24 1390
ChatGPT采用了Transformer架构和自回归语言模型。给定一段文本序列,模型通过自注意力机制提取上下文信息,并利用Masked Language Model(MLM)和Next Sentence Prediction(NSP)进行预训练。在应用阶段,模型根据输入的Prompt生成相应的文本响应。本文全面介绍了 ChatGPT 的发展历程、技术原理和应用实践。首先,我们回顾了从 GPT-1 到 GPT-4 的演进过程,阐述了 ChatGPT 的核心概念。
AIGC与注意力机制：从Transformer到扩散模型的应用
最新发布
AI天才研究院
04-29 626
随着深度学习技术的发展，人工智能生成内容（AIGC）已从早期的规则驱动转向数据驱动，其中注意力机制和生成模型是两大核心技术支柱。本文聚焦注意力机制在Transformer和扩散模型中的技术原理、数学模型及工程实现，分析其在文本生成、图像合成等场景的应用，为研究者和开发者提供从理论到实践的完整技术图谱。核心概念：解析注意力机制、Transformer架构、扩散模型的基础原理算法与数学：推导自注意力公式、扩散模型的概率转移方程实战案例：基于PyTorch实现文本生成和图像合成模型应用与工具。
CSnet-tls1.3-packet数据集
11-16
CSnet-tls1.3-packet数据集
AI人工智能领域下AI写作的技术演进
AI天才研究院
04-06 608
本文旨在系统性地梳理AI写作技术的发展脉络，深入分析其核心技术原理，并探讨实际应用中的关键问题和解决方案。研究范围涵盖从早期的基于规则的文本生成系统到当前最先进的大规模预训练语言模型，重点关注深度学习时代的技术突破。文章首先介绍AI写作的技术背景和发展历程，然后深入分析核心算法原理和数学模型。接着通过实际代码示例展示技术实现，讨论应用场景和工具资源，最后展望未来发展趋势。附录部分包含常见问题解答和扩展阅读资料。自然语言处理(NLP)：计算机科学和人工智能领域的一个分支，研究计算机与人类语言之间的交互。
ET-BERT项目安装与使用指南
gitblog_00322的博客
08-16 1272
ET-BERT项目安装与使用指南 项目地址:https://gitcode.com/gh_mirrors/et/ET-BERT 一、项目介绍 ET-BERT是一款基于Transformer的预训练模型，专用于加密流量分类任务。此模型由林新杰、熊刚鹏、勾高鹏等作者共同研发，并在2022年于The Web Conference（WWW）会议上发表论文详细介绍。ET-BERT通过上下文感知的数据报表示法...
详细介绍BERT模型
zag666的博客
11-16 1万+
BERT通过在所有层中联合调节左右语境，从未标记的文本中预训练深度双向表征。因此，预训练的BERT模型可以通过一个额外的输出层进行微调，以创建最先进的模型，用于更广泛的任务，而无需对特定任务的架构进行大量修改。
ET-BERT开源项目使用指南
gitblog_00763的博客
08-15 932
ET-BERT开源项目使用指南 项目地址:https://gitcode.com/gh_mirrors/et/ET-BERT 1. 项目目录结构及介绍 ET-BERT项目是基于Transformer预训练模型，专为加密流量分类设计的网络流量分析工具，其在2022年The Web Conference（WWW）会议上被接受。以下是该GitHub仓库的主要目录结构及其简要说明： src: 核心源代码...
图解BERT模型：从零开始构建BERT
热门推荐
m0_37477175的博客
06-05 2万+
转载：https://cloud.tencent.com/developer/article/1389555 本文首先介绍BERT模型要做什么，即：模型的输入、输出分别是什么，以及模型的预训练任务是什么；然后，分析模型的内部结构，图解如何将模型的输入一步步地转化为模型输出；最后，我们在多个中/英文、不同规模的数据集上比较了BERT模型与现有方法的文本分类效果。 1. 模型的输入/输出 BERT模型的全称是：BidirectionalEncoder Representations from Transfo.
ET-BERT模型
03-21
<think>好的，我现在需要处理用户关于ET-BERT模型的查询。用户希望了解该模型的定义、实现方式和应用场景。首先，我得回顾一下提供的引用内容，确保信息准确无误。 根据引用[1]和[4]，ET-BERT是一个基于Transformer的预训练模型，专用于加密流量分类。由林新杰等人在WWW 2022上发表。模型使用上下文感知的数据报表示法，处理加密通信数据。需要明确这些基本信息，并指出其创新点在于多层注意力机制，学习数据包间的上下文关系，如引用[4]所述。 接下来，实现方式部分。引用[2]提到微调和预训练结构相似，任务特定数据输入预训练模型，端到端微调所有参数。可能需要解释模型结构，比如Transformer的多头注意力和前馈网络，以及嵌入层的处理。引用[3]提到不同模块的量化效应，但用户的问题可能更关注整体结构，所以这部分可能不需要深入，除非用户问优化细节。 应用场景方面，引用[1]和[4]都提到加密流量分类，网络安全如恶意软件检测、隐私合规监控，以及网络流量管理。需要具体举例，比如识别恶意加密流量，运营商优化网络带宽分配等。 生成相关问题时，要考虑用户可能的后续疑问，比如模型结构细节、训练数据来源、与传统方法的比较，或者在不同场景下的效果差异。这些问题应基于现有引用内容，确保有据可依。 需要注意引用标注，在回答中适当位置添加引用标识，比如在介绍模型时引用[1][4]，实现部分引用[2][3]。同时保持语言口语化，避免使用专业术语过多，但又要准确。最后检查是否符合格式要求，如数学公式的正确使用，但根据用户问题，可能这部分涉及较少，主要关注自然语言描述。 现在，确保各部分结构清晰，先定义，再实现，最后应用场景，每个部分简明扼要，并自然融入引用。然后生成相关问题，引导用户深入探讨。</think>### ET-BERT 模型介绍与解析 #### 1. **定义与核心思想** ET-BERT 是一种基于 Transformer 架构的预训练模型，专门用于加密网络流量的分类任务。它通过分析数据包的上下文关系和传输模式，解决传统方法难以处理加密通信内容的问题[^1][^4]。其创新点包括： - **上下文感知表示**：将单个数据包的语义与流量序列的时序特征结合，捕捉加密流量中的隐含模式。 - **多层级注意力机制**：学习数据包内（如协议字段）和数据包间（如流量行为）的关联性。 #### 2. **实现方式** ET-BERT 的实现可分为以下关键步骤： 1. **预训练** - 使用大规模无标签加密流量数据，通过掩码语言建模（Masked Language Modeling, MLM）任务训练模型，使其能预测被遮蔽的流量特征[^1]。 - 输入数据表示为： $$ \text{Input} = [\text{CLS}] \oplus \text{Packet}_1 \oplus \text{Packet}_2 \oplus \cdots \oplus \text{Packet}_n $$ 其中 $[\text{CLS}]$ 用于分类任务的特征聚合[^2]。 2. **微调** - 将预训练模型适配到具体任务（如恶意流量检测），输入带标签的数据并端到端调整所有参数。 - 关键模块包括多头自注意力（Multi-Head Self-Attention）和前馈网络（FFN），引用[3]指出这两部分对量化敏感，影响模型压缩效果。 #### 3. **应用场景** ET-BERT 的典型应用包括： - **网络安全检测**：识别恶意加密流量（如勒索软件通信）[^4]。 - **隐私合规监控**：检测敏感数据传输是否符合 GDPR 等法规[^1]。 - **网络流量管理**：帮助运营商优化带宽分配（如区分视频流与文件下载）。 --- ###
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值