工程复现——TrafficLLM

YohannaCao

已于 2025-04-14 11:09:34 修改

阅读量2.4k

点赞数 52

文章标签： python 语言模型

于 2025-01-03 14:04:32 首次发布

本文链接：https://blog.csdn.net/qq_45963865/article/details/144905284

版权

网络流量大语言模型

网络流量大语言模型TrafficLLM

网络流量大语言模型TrafficLLM

TrafficLLM项目地址

模型特点

在这里插入图片描述

该机制通过在大规模流量域语料库上训练专门化的标记化模型，有效地扩展了LLM的本机标记器。
双阶段调优管道： 做的是Text部分Text训练然后流量部分流量训练
参数有效微调（EA-PEFT）可扩展自适应： 该技术将模型功能拆分为不同的PEFT模型，这有助于将交通模式变化引起的动态场景成本降至最低。

模型运行环境

在这里插入图片描述
租用Autodl服务器进行模型测试、模型微调环境配置等工作。
镜像： PyTorch 2.3.0 Python 3.12 Cuda 12.1
GPU： RTX3090

环境配置

conda环境配置

// conda环境配置
conda activate base
conda create -n py38 python=3.8
conda activate trafficllm //之后运行模型都要先进入trafficllm环境里面

在这里插入图片描述

requirements.txt文件依赖配置

pip install -r requirements.txt

在这里插入图片描述

基座模型下载并存储

pip install modelscope
modelscope d

最低0.47元/天解锁文章

确定要放弃本次机会？

福利倒计时

: :

立减 ¥

普通VIP年卡可用

立即使用

YohannaCao

关注关注

52
点赞
踩
35

收藏

觉得还不错? 一键收藏
5
评论
分享

复制链接

分享到 QQ

分享到新浪微博

扫一扫
举报

举报

评测结果的可复现性：LLM支持的标准化流程设计

AI天才研究院

02-05

982

评测结果的可复现性：LLM支持的标准化流程设计关键词评测结果复现性大型语言模型 (LLM) 标准化流程技术标准质量控制自动化

LARGE LANGUAGE MODELS AS TRAFFIC SIGNAL CONTROL AGENTS: CAPACITY AND OPPORTUNITY

c_cpp_csharp的专栏

01-26

583

交通信号控制对于通过调节红绿灯相位来优化道路网络的效率至关重要。现有的研究主要集中在基于启发式或强化学习（RL）的方法上，这些方法往往缺乏在不同交通场景中的可转移性，并且具有较差的可解释性。本文介绍了一种利用大型语言模型（LLM）执行交通信号控制任务的新方法LLMLight。通过利用LLM令人印象深刻的泛化和零样本推理能力，LLMLight执行了一个人性化的决策过程，以实现高效的交通管理。具体来说，该框架首先将任务描述、当前交通状况和先验知识组合到提示中。

5 条评论您还未登录，请先登录后发表或查看评论

TrafficFormer 针对流量数据的高效预训练模型

m0_59164304的博客

10-08

4405

今天为大家介绍一篇清华大学徐恪教授和李琦老师团队针对流量数据的预训练模型工作《TrafficFormer: An Efficient Pre-trained Model for Traffic Data》，第一作者是周广猛博士。该工作已经被国际网络安全四大顶级会议之一的 IEEE Symposium on Security and Privacy 2025 录用。

AI论文速读 | TF-LLM：基于大语言模型可解释性的交通预测

suzukiwudi的博客

04-10

2551

交通流量预测为智能交通系统提供了重要的未来视角。可解释的预测为影响交通模式的因素提供了宝贵的见解，有助于城市规划者、交通工程师和政策制定者就基础设施发展、交通管理策略和公共交通规划做出明智的决策。尽管基于深度学习的预测方法广泛流行且准确性值得称赞，但其透明度和可解释性常常令人失望。最近，大规模时空数据的可用性和大型语言模型（LLM）的发展为城市交通预测开辟了新的机遇。随着LLM的流行，人们见证了基础模型在各种任务中潜在的推理和生成能力。将文本视为输入和输出，LLM在生成更直观和可解释的预测方面具有优势。

构建LLM应用：构建LLM服务（第九部分）

AI公园

07-18

591

点击上方“AI公园”，关注公众号，选择加“星标“或“置顶”作者：Vipra Singh编译：ronghuaiyang导读LLM Serving指的是部署和运行大型语言模型（LLMs）以处理用户请求的过程。它涉及到将通常离线训练的LLM设置为实时响应查询。LLM Serving指的是部署和运行大型语言模型（LLMs）以处理用户请求的过程。它涉及到将通常离线训练的LLM设置为实时响应查询。以下是LLM...

交通大模型与时序大模型整理【共15篇工作】【附开源代码】

SmartLab307的博客

04-16

7704

通过本文的阐述，我们希望能够为研究人员、决策者和城市规划者提供一些有益的参考，促进交通领域数据整理与分析工作的进一步发展与应用。

【论文阅读】《Large Language Models for Networking: Applications, Enabling Techniques, and Challenges》

bylander的博客

04-22

1580

文章探讨了大型语言模型（LLMs）在网络领域的应用，并提出了一些使能技术和面临的挑战。

TPLLM: A Traffic Prediction Framework Based on Pretrained Large Language Models 论文解读 + LLM用于时间序列相关文章

m0_64636251的博客

08-30

1214

TPLLM: A Traffic Prediction Framework Based on Pretrained Large Language Models 论文解读 + LLM用于时间序列相关文章。本博客详细介绍了TPLLM、LLM4TS的网络架构和分析

大模型日报｜8 篇必读的大模型论文

AMiner2006的博客

12-09

724

大模型日报｜8 篇必读的大模型论文

NetLLM: Adapting Large Language Models for Networking.

佛系更新

08-05

2391

论文：NetLLM: Adapting Large Language Models for Networking.阅读笔记

20K star！手把手教会你搞定 LLM 微调，超详细收藏我这篇就够了

m0_65555479的博客

07-08

1996

在人工智能领域，大型语言模型(LLM)微调（Fine-Tuning）是当下最热门的话题之一。总体来说LLaMA Factory 是一个非常优质的工具，在LLM微调中帮助用户节省了大量的精力。这些模型拥有惊人的语言理解和生成能力，但要微调和部署它们以适应特定任务，往往需要大量计算资源和专业知识，代码调试还得有深厚的技术功底。

Python爬虫实战：研究进制流数据，实现逆向解密

ylfhpy的博客

05-14

473

许多网站和应用通过二进制流数据传输敏感信息，如视频、金融交易数据等。逆向工程进制流数据不仅有助于合法的数据获取与分析，还能帮助企业发现自身安全漏洞，提升数据保护能力。本研究主要针对特定类型的视频加密系统，对于采用更复杂加密机制（如硬件加密、动态密钥交换）的系统，可能需要进一步优化方法。以二进制形式传输的数据序列，通常包含文件、图像、音频或加密信息。如 ECB、CBC、CFB 等，定义加密算法如何处理数据块。拦截并修改通信双方数据的攻击方式，本研究用于合法数据捕获。

TGV之LTX：LTX-Video的简介、安装和使用方法、案例应用之详细攻略

头部AI社区如有邀博主AI主题演讲请私信—心比天高，仗剑走天涯，保持热爱，奔赴向梦想！低调，专注，谦虚，自律，反思，成长，还算比较正能量的博主，公益免费传播…内心特别想在AI界做出一些可以推进历史进程影响力的技术(兴趣使然，有点小情怀，也有点使命感呀

05-11

1286

TGV之LTX：LTX-Video的简介、安装和使用方法、案例应用之详细攻略目录 LTX-Video的简介 LTX-Video的安装和使用方法 LTX-Video的案例应用 LTX-Video的简介 LTX-Video是第一个基于DiT的实时高质量视频生成模型。它能够以1216×704分辨率生成30 FPS的视频，速度快于观看视频本身。该模型在一个大型多样化视频数据集上进行训练，能够生成具有逼真和多样化内容的高分辨率视频。它支持文本到视频、图像到视频、关键帧动画、视

WEB安全--Java安全--CC1利用链

最新发布

m0_74800552的博客

05-14

1406

CC1利用链的原理与构建方式

Python数据分析案例74——基于内容的深度学习推荐系统（电影推荐）

weixin_46277779的博客

05-10

1598

maxtext开源程序是一个简单、高性能和可扩展的 Jax LLM！

struggle2025的博客

05-12

1401

MaxText 是一种高性能、高度可扩展的开源软件，以纯 Python/Jax LLM 编写，以 Google Cloud TPU 和 GPU 为目标，用于训练和推理。借助 Jax 和 XLA 编译器的强大功能，MaxText 实现了高 MFU 并从单个主机扩展到超大型集群，同时保持简单和“无优化”

【AI】“CUDA” 到底是什么？（AI 计算民主化，第二部分）

u011808788的博客

05-14

949

似乎每个人都在去年开始谈论CUDA ：它是深度学习的支柱，是新型硬件难以竞争的原因，也是NVIDIA 护城河和飙升市值的核心。DeepSeek的出现，让我们获得了一个惊人的发现：它的突破是通过“绕过” CUDA，直接进入 PTX 层实现的……但这究竟意味着什么？似乎每个人都想打破这种锁定，但在制定计划之前，我们必须了解我们面临的是什么。本文是 Modular “ AI 计算民主化”系列文章的第二部分。更多信息，请参阅：第一部分：DeepSeek 对 AI 的影响第二部分：“CUDA”到底是什么？

基于 Python 的后端开发学习路线

qq_49894233的博客

05-12

710

按照这条路线一步步学习，将会帮助你掌握后端开发的核心技能，成为一名合格的 Python 后端开发者。使用 Python 的 mysql-connector 或 psycopg2 连接数据库。使用 Python 的 unittest 或 pytest 进行单元测试。MongoDB 基础操作，使用 Python 的 pymongo 库。HTTP 协议（GET、POST、PUT、DELETE 等方法）条件语句（if-else）、循环（for、while）自己动手开发项目，例如博客、社交网站、在线商城等。

【生存技能】ubuntu 24.04 如何pip install

m0_52682586的博客

05-10

749

在Ubuntu系统中，直接使用pip安装Python包到系统环境时可能会遇到权限问题，因为系统出于稳定性考虑禁止了这种操作。为了解决这个问题，可以创建一个虚拟环境来安装所需的Python库

rt——detr复现

02-28

### 如何复现 RT-DETR 模型 #### 准备工作为了成功复现 RT-DETR 模型，需先安装必要的依赖库并准备数据集。确保 Python 和 PyTorch 已经正确配置好环境。 ```bash pip install torch torchvision torchaudio --extra-index-url https://download.pytorch.org/whl/cu113 ``` 接着按照项目文档说明下载 COCO 数据集或其他适用的数据集[^1]。 #### 配置实验环境创建一个新的虚拟环境来隔离项目的依赖关系： ```bash conda create -n rt-detr python=3.8 conda activate rt-detr ``` 随后克隆官方仓库或对应的实现代码库，并进入该目录下执行安装命令: ```bash git clone https://github.com/some/repo.git cd repo pip install -r requirements.txt ``` #### 调整参数设置根据具体需求调整超参数设定，比如批量大小(batch size)，学习率(learning rate)等。这些参数通常位于配置文件中，如 `config.yaml` 或者通过命令行传递给训练脚本。对于 RT-DETR 的特定调优建议可以参考相关文献中的最佳实践部分。 #### 开始训练过程启动训练之前确认所有的路径都已正确定义，特别是指向预处理后的图像以及标注信息的位置。运行如下指令开始训练流程： ```bash python train.py --data_path /path/to/dataset --output_dir ./outputs/ ``` 此过程中应当监控 GPU 使用情况以及其他性能指标以确保一切正常运作。 #### 测试与评估完成一轮完整的迭代之后，利用测试集合验证模型的表现。这一步骤同样可以通过相应的 Python 脚本来完成： ```bash python eval.py --model_weights outputs/checkpoint.pth --eval_data test_set.json ``` 上述操作能够帮助理解当前版本下的检测精度和其他重要统计量。 #### 结果分析最后收集所有得到的结果并与原始论文对比差异所在之处。如果发现某些方面存在差距，则可能需要进一步优化网络结构或是探索其他潜在因素的影响。