Pensieve复现及一些问题(1)

已于 2022-03-16 16:05:35 修改
阅读量7.6k 收藏 19
点赞数 5
分类专栏： 码率控制算法 文章标签： 视频编解码
于 2022-03-14 15:36:14 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42173959/article/details/123479797
版权

Pensieve

第一步：利用setup.py 配置环境的文件

Install prerequisites (tested with Ubuntu 16.04, Tensorflow v1.1.0, TFLearn v0.3.1 and Selenium v2.39.0)

import os

start_dir = os.getcwd()

# mahimahi
print ('mahimahi begin')
os.system("sudo sysctl -w net.ipv4.ip_forward=1")
#os.system("sudo add-apt-repository -y ppa:keithw/mahimahi") 这句话不重要，跑不了的话可以不跑
os.system("sudo apt-get -y update")
os.system("sudo apt-get -y install mahimahi")
print ('mahimahi finish')

# apache server
os.system("sudo apt-get -y install apache2")

# selenium
print('selenium begin')
#os.system("wget 'https://pypi.python.org/packages/source/s/selenium/selenium-2.39.0.tar.gz'") #下载不下来的话可以在windows里面下好了传给服务器，然后再pensieve文件夹下面继续setup.py,解压缩等
#os.system("sudo apt-get -y install python-setuptools python-pip xvfb xserver-xephyr tightvncserver unzip") #我的环境已经有了，不需要重新下载
os.system("tar xvzf selenium-2.39.0.tar.gz")
selenium_dir = start_dir + "/selenium-2.39.0"
os.chdir( selenium_dir )
os.system("sudo python setup.py install" )
os.system("sudo sh -c \"echo 'DBUS_SESSION_BUS_ADDRESS=/dev/null' > /etc/init.d/selenium\"")
print('selenium finish')

# py virtual display
print('pyvirtualdisplay begin')
os.chdir( start_dir )
os.system("pip install pyvirtualdisplay")

os.system("wget 'https://dl.google.com/linux/direct/google-chrome-stable_current_amd64.deb' ") #和上面的gz文件同理，先下载下来，然后再传到pensieve文件夹下继续跑setup.py。
os.system("sudo dpkg -i google-chrome-stable_current_amd64.deb")
os.system("sudo apt-get -f -y install")
print('pyvirtualdisplay finish')

#####下面这些之前就有#####
# tensorflow
#os.system("sudo apt-get -y install python-pip python-dev")
#os.system("sudo pip install tensorflow")
# tflearn
#os.system("sudo pip install tflearn")
#os.system("sudo apt-get -y install python-h5py")
#os.system("sudo apt-get -y install python-scipy")
# matplotlib
# os.system("sudo apt-get -y install python-matplotlib")

# copy the webpage files to /var/www/html
print('copying')
os.chdir( start_dir )
os.system("sudo cp video_server/myindex_*.html /var/www/html")
os.system("sudo cp video_server/dash.all.min.js /var/www/html")
os.system("sudo cp -r video_server/video* /var/www/html")
os.system("sudo cp video_server/Manifest.mpd /var/www/html")

# make results directory
print('making dir')
os.system("mkdir cooked_traces")
os.system("mkdir rl_server/results")
os.system("mkdir run_exp/results")
os.system("mkdir real_exp/results")

# need to copy the trace and pre-trained NN model
print ("Need to put trace files in 'pensieve/cooked_traces'.")
print ("Need to put pre-trained NN model in 'pensieve/rl_server/results'.")
print('finish')

第二步：下载数据集

数据集1：[PiTree 清华数据集][https://transys.io/pitree-dataset/traces/index.html]、FCC18、HSR、Ghent、Lab（都可以在清华的这个网站找到）

PiTree 数据集的动机是自适应视频流中现有数据集的不足。许多现有的仿真数据集，例如Pensieve或Oboe是多年前收集的，平均带宽约为 1Mbps。然而，随着最近通信技术（例如，5G）的发展，现在的互联网通常提供超过10Mbps的更高带宽。因此，我们认为有必要在视频和网络轨迹上构建一个新的数据集，以忠实地评估比特率自适应算法的性能。

  1. FCC18 is the measurement results of the broadband network in 2018 provided by FCC, with a median bandwidth improvement by 4.04x compared to 2016. (origin)
  2. HSR. We adopt the 4G measurements on high-speed rails in 2018 to construct a scenario with violently fluctuating 4G bandwidths. (origin)
  3. Ghent. We use the 4G measurements on foot, bicycle, bus, tram, train, and car in 2016 by Ghent University, which are moderately fluctuating 4G bandwidths. (origin)
  4. Lab. Finally, we also measure the indoor 4G bandwidth during the period of 2019-07-02 to 2019-08-15. To ensure the comprehensiveness of the dataset, we interchangeably use four congestion control algorithms (BBR, Cubic, Vegas, and HighSpeed). The indoor traces construct a scenario with gently fluctuating 4G bandwidths.
#单个转换
python sim2mahimahi.py -i hd_sim/ghent/ -o hd_mahimahi/ghent/
#批量转换
python setup_sim2mahimahi.py -i hd_sim

数据集2

pensieve/traces/README.md中讲的很详细

- To download the raw data, follow
```
# FCC broadband dataset
$ wget http://data.fcc.gov/download/measuring-broadband-america/2016/data-raw-2016-jun.tar.gz
$ tar -xvzf data-raw-2016-jun.tar.gz -C fcc

# Norway HSDPA bandwidth logs
$ wget -r --no-parent --reject "index.html*" http://home.ifi.uio.no/paalh/dataset/hsdpa-tcp-logs/

# Belgium 4G/LTE bandwidth logs (bonus)
$ wget http://users.ugent.be/~jvdrhoof/dataset-4g/logs/logs_all.zip
$ unzip logs_all.zip -d belgium
```

- For actual video streaming over Mahimahi (http://mahimahi.mit.edu), the format of the traces should be converted to the following
```
Each line gives a timestamp in milliseconds (from the beginning of the
trace) and represents an opportunity for one 1500-byte packet to be
drained from the bottleneck queue and cross the link. If more than one
MTU-sized packet can be transmitted in a particular millisecond, the
same timestamp is repeated on multiple lines.
```
An example mahimahi trace `run_exp/12mbps` depicts 12Mbit/sec bandwidth. More details of mahimahi trace file requirements can be found in https://github.com/ravinet/mahimahi/tree/master/traces. In our case, the script `convert_mahimahi_format.py` in `traces/norway/` and `traces/fcc/` can be used. Some samples of preprocessed data can be downloaded in `cooked_traces` from https://www.dropbox.com/sh/ss0zs1lc4cklu3u/AAB-8WC3cHD4PTtYT0E4M19Ja?dl=0.

- For simulations, the format should be `[time_stamp (sec), throughput (Mbit/sec)]`. Some sample can be downloaded in `train_sim_traces` and `test_sim_traces` from https://www.dropbox.com/sh/ss0zs1lc4cklu3u/AAB-8WC3cHD4PTtYT0E4M19Ja?dl=0.

数据集3

在#issue134中作者放入了原始训练数据集（https://github.com/hongzimao/pensieve/issues/134）

第三步：在虚拟环境下训练RL

1） python get_video_sizes.py

2） python multi_agent.py

  • 现在的temsorflow1.15跑代码会有很多的warning，在文档开头加入下面的代码块即可不显示
  • 我的是python3，所以把所有xrange改成range，‘wb’改成‘w’，‘rb’改成‘r’
import os
import warnings
warnings.filterwarnings('ignore')
import logging
logging.disable(logging.WARNING)
os.environ["TF_CPP_MIN_LOG_LEVEL"] = "3"
  • 由于作者是在CPU上跑的代码，并且说[CPU和GPU的性能速度效果差不多][https://github.com/hongzimao/pensieve/issues/14]。对于要在GPU上面跑这个代码没有给出详细的说明而且会报错，因此在这里先用CPU运行。
  • 观测RL训练是否收敛的[问题][https://github.com/hongzimao/pensieve/issues/76]
    • https 😕/people.csail.mit.edu/hongzi/var-website/index.html
    • td_loss（策略梯度损失）有很大的方差可能是由于多种原因；一个重要的问题是输入过程中的随机性（在这种情况下是网络跟踪）,要观测验证数据集中的奖励是否有所改善。
    • 只是对一个视频进行训练
    • 论文使用的数据比 repo 中的要多。小数据集是为了让其他人快速重现一阶结果并获得学习方法的感觉。
    • 通过训练熵需要衰减。
  • 要对多个视频进行训练的话要用https://github.com/hongzimao/pensieve/tree/master/multi_video_sim的代码

第四步： 验证模型效果

将test cooked traces 复制：

import os
os.system('cp -r ./cooked_test_traces ../test/cooked_traces' )

请添加图片描述请添加图片描述
请添加图片描述
BB模型

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 运行mpc.py的时候会报错是因为88-91行少了一个输出
    在这里插入图片描述
    改成
    在这里插入图片描述

就可以了

  • 原作者说dp.py和dp.cc是最简单的说明这是一个optimal question的模型，因此，这部分代码没有跑

  • 还有一个要注意的点是绘制图像的时候，要注意SCHEMES中只能输入一个参数（‘sim_rl’，‘bb’，‘mpc’中的一个），如果要看对比的话，要自己改一下下面的代码。

  • 以下是mpc的结果

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

第五步：MahiMahi网络仿真

第六步：实际平台测试

5和6以及一些其他的问题下次再更新

白菜价卖辣辣
关注
专栏目录
Pensieve：AI带来的更流畅的高质量观看体验
LiveVideoStack
06-13 2505
麻省理工学院计算机科学与人工智能实验室（MIT CSAIL）开发的基于机器学习的流媒体系统能更好的适应不同的网络条件，从而提供更加流畅的流媒体传输体验。LiveVideo...
Pensieve复现及其一些问题（2）
加油赚钱养辣辣
03-16 4253
这篇文章主要是讲的在现实生活中的实际平台测试 chromedriver： 1.报错： Message: ‘chromedriver’ executable may have wrong permissions. Please see https://sites.google.com/a/chromium.org/chromedriver/home 解决方案：编译的程序没有权限操作chromedriver import os os.chmod('/path/to/chromedriver', 0o755)
Mahimahi: 精确记录与重放HTTP框架教程
最新发布
gitblog_00614的博客
08-07 321
Mahimahi: 精确记录与重放HTTP框架教程 mahimahi项目地址:https://gitcode.com/gh_mirrors/mah/mahimahi 1. 项目介绍 Mahimahi 是一个用于记录并重播基于HTTP应用程序流量的框架。它着重于准确性，模拟Web应用中的多服务器特性，适用于98%的Alexa美国前500名网站。Mahimahi设计上考虑了隔离网络流量的能力，允许在...
360度视频开发-pensieve复现
qq_39653637的博客
07-14 1488
环境配置 环境：python2.7，Ubuntu 16.04, 1、mahimahi安装需要用到add-apt-repository，因此需要执行： sudo apt-get install python-software-properties 2、selenium安装2.39.0版本 wget 'https://pypi.python.org/packages/source/s/selenium/selenium-2.39.0.tar.gz 3、py virtual display安装0.2.1版本
Pensive复现日志
XiaoQiXiaoWei_J的博客
08-27 1132
Pensive复现
pensieve复现（转载）
qq_39373811的博客
08-23 1462
转载自博客 环境配置 环境：python2.7，Ubuntu 16.04, 1、mahimahi安装需要用到add-apt-repository，因此需要执行： sudo apt-get install python-software-properties 1
pensive代码复现run_exp模块的问题
assenone的博客
12-20 455
因为代码中的多线程执行的命令行不会在控制台输出错误，调试及其麻烦，所以我打印出命令手动一句一句调试，然后发现个大问题。记得把command里的python路径换成自己的。则selenium正常运行，目前没找到解决办法。run_traces.py会执行一句命令。然后selenium就会报错。
pensive_passport
05-10
Pensive Passport是一款旅行应用程序，可帮助优柔寡断的旅行者做出以数据为依据的决策。 用户选择旅行选项后，PP会收集机票，天气，生活费用和米其林星级数据。 基于此，PP的评分算法建议了一个初始目的地。 然后，...
pensive:私人个人备忘录和日记服务
06-08
1. **MVC（Model-View-Controller）架构**：pensive可能采用了MVC设计模式，这是一种常见的软件设计模式，用于分离应用程序的数据、业务逻辑和用户界面。模型负责数据处理，视图负责展示，控制器则协调模型和视图的...
pensive自适应码率
11-29
调降码率可以减少数据传输量，降低对网络带宽的需求，从而保证视频或音频的连续播放，避免出现卡顿和缓冲等问题。 pensive自适应码率算法还可以根据网络抖动的变化，及时调整码率。当网络环境出现较大抖动时，...
Pensive an extensive highlighter-crx插件
04-03
语言:English广泛的单词突出显示工具可帮助您学习新单词或在您感兴趣的主题/术语上不会错过的工具。广泛的单词突出显示工具，易于使用。对于初学者和多才多艺的读者来说，这对于学习新单词或不遗漏您感兴趣的主题/...
pensieve-web:siPensieve Web应用程序
05-13
· “我使用Pensieve。一个人简单地从脑海中吸取多余的思想，将它们倒入盆中，然后在闲暇时进行检查。当它们处于这种形式时，发现模式和链接会变得更加容易。” 阿不思·邓布利多 该项目包含Pensieve的Web应用程序，提供了创建和查看项目的界面。 该项目是使用引导的，将有助于参考其。 正在安装 克隆此项目并相应地更新路径： git clone git@github.com:pensieve-srs/pensieve-web.git cd pensieve-web/ 安装依赖项： yarn install 注意：如果您没有安装yarn ，请随时使用npm 。 复制.env.example并将变量更新为您的设置： cp .env.example .env.development.local 确保本地或服务器上都运行着API服务器。 API服务器存储库位于： : 。 默认服务
Pensieve-PPO:通过最新的RL算法（包括DQN，A2C，PPO和SAC）最简单地实现Pensieve（SIGCOMM 17'）
05-06
盆式PPO 关于沉思-PPO 这是Pensieve [1]的一个简单的TensorFlow实现。 详细地说，我们通过PPO而非A3C培训了Pensieve。 这是一个稳定的版本，已经准备好训练集和测试集，并且您可以轻松运行仓库：只需键入 python train.py 反而。 将每300个时代在测试集（来自HSDPA）上评估结果。 实验结果 我们报告了熵权重β，奖励和熵的训练曲线。 通过双簧管网络轨迹评估结果。 提示：橙色曲线：pensieve-ppo； 蓝色曲线：pensieve-a2c 预训练模型 此外，我们还在添加了预训练模型 与原始Pensieve模型相比，该模型的平均QoE提高了7.03％（0.924-> 0.989）。 如果您有任何疑问，请随时告诉我。 [1] Mao H，Netravali R，Alizadeh M.带自适应神经网络自适应视频流[C] // ACM数据
oboe:一个AutoML管道选择系统，可以快速为新数据集选择有希望的管道
05-15
双簧管系统 Oboe和TensorOboe这套库是自动化的机器学习（AutoML）系统，它们使用协作过滤为用户指定的时限内的监督学习任务找到良好的模型。 之后可以执行进一步的超参数调整。 该名称来自乐器双簧管：在管弦乐队中，双簧管会演奏一个初始音符，其他乐器会在演奏开始之前用它来调音到正确的频率。 我们的Oboe系统在AutoML中扮演着相似的角色：我们使用元学习来选择有前途的模型集或为新数据集构建整体。 用户可以直接使用所选模型，也可以进一步微调其超参数。 在新的数据集上： Oboe通过矩阵分解和经典实验设计来寻找有前途的估计器（监督学习者）。 它需要预处理的数据集：一键编码分类特征，然后将所有特征标准化为均值和单位方差为零。 有关完整说明，请参阅我们的论文 KDD 2019上的。 TensorOboe搜索有希望的管道，这些管道是此处学习组件的有向图，包括插补，编码，标准化，降维
cdbs:FCC CDBS数据集命令行工具
06-03
FCC CDBS 数据集的 CLI FCC（联邦通信委员会）已在线提供多个数据集。 这些数据集之一是 CDBS（综合公共数据库系统）。 数据集很大，可以作为单独的数据文件下载，但将它们导入数据库有点挑战，因为表定义不是以标准格式提供的，数据文件是作为字符分隔的文本文件提供的。 为了使数据更易于访问，该工具自动下载、提取数据文件并将其解析为包含表定义和实际数据脚本的数据库脚本。 这些脚本已经过 MySQL 测试。 尽管插入脚本是 ANSI SQL 并且应该与大多数数据库兼容，但尚未检查对其他数据库的支持，而表定义脚本可能需要调整以支持其他数据库。 安装 该工具已在 Node.js 中实现。 如果 Node 在您的系统上不可用，请从安装它。 安装 Node 后运行 $ npm install cdbs 这将使cdbs在您的当前目录中可用。 如果您希望它在全局范围内可用，请运行带有 gl
经典ABR算法介绍：Pensieve (SIGCOMM ‘17) 原理及训练指南
Green Lv的博客
01-18 2181
Pensieve是DASH点播视频中最经典的ABR算法之一，也是机器学习类（Learning-based）ABR算法的代表性工作。本文简要介绍Pensieve的基本原理，并提供Pensieve模型的训练指南。
Pensieve实践笔记（转载）
qq_39373811的博客
08-23 825
转载自博客 https://github.com/hongzimao/pensieve为pensieve的github源码 根据readme，首先要准备Ubuntu 16.04、Tensorflow v1.1.0、TFLearn v0.3.1、Selenium v2.39.0 环境：VMware Workstation16 Pro、虚拟机Ubuntu16.04 1.下载安装Ubuntu，
论文学习 | (MIT CS&AI Lab) Pensieve : 基于A3C的流媒体码率自适应策略
weixin_44874766的博客
05-05 3191
1 引言    近些年来，用户在线观看视频时追求越来越高的品质，这就要求我们找出更佳的流媒体传输策略。已有许多基于HTTP的视频流媒体传输方法。该论文的Pensieve策略就属于其中一种。在论文结论中，研究者提到这种算法相比ABR算法，能提升QoE指标12%-25%。 2 ABR(Average Bitrate)算法 要了解ABR，需要先了解CBR和VBR。 CBR（Constant Bitrate）,是采用固定比特率进行编码的方式，适应流式传输。但是当我们的图像压缩数据变大时，质量就会下降。因此这种方
Pensieve部署实践（1）（安装ubuntu、anaconda、tensorflow、tflearn、selenium）
jmy0406的博客
07-15 747
https://github.com/hongzimao/pensieve为pensieve的github源码 根据readme，首先要准备Ubuntu 16.04、Tensorflow v1.1.0、TFLearn v0.3.1、Selenium v2.39.0 环境：VMware Workstation16 Pro、虚拟机Ubuntu16.04 1.下载安装Ubuntu，链接如下 Ubuntu 16.04.7 LTS (Xenial Xerus) 2.安装anaconda 下载合适的.s
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值