PeerStream企业版设计思路

最新推荐文章于 2024-06-30 22:36:29 发布

g0415shenw

最新推荐文章于 2024-06-30 22:36:29 发布

阅读量87

点赞数

原文链接：https://mp.weixin.qq.com/s?__biz=Mzg3MDU5ODg0NA==&mid=2247484722&idx=1&sn=3096476900f2a153b179536c71b4e044&chksm=cf25ae531b31331d163a2fed10972d955ecb55a5a52ccd2f23a10ad59804c7f010f8ab29a7eb&scene=126&sessionid=0

版权

前言

peerstream.js项目是我们团队开发的虚幻引擎像素流库，和官方臃肿不堪的像素流SDK相比，我们在官方的基础上做了大量的优化和精简，并加入了许多新功能，开发出了轻量、零依赖、开箱即用的软件套装，前端的peer-stream.js基于WebComponentsAPI，后端signal.js基于NodeJS和npm/ws。
目前对于单个UE项目来说，已经可以很好的完成其使命，但是对于多机器、多显卡、多个UE项目的管理来说，还是显得有些力不从心。针对这些问题，我们设计了一个全新的企业版。

设计思路

企业版取名为PeerStreamMulty，意思是可以管理多个UE实例。我们会保持和PeerStream项目采用一致的peerstream.js库，这样可以做到无缝切换。
PeerStreamMulty主要核心能力主要是多机器多显卡负载均衡，多个UE实例负载均衡。后期我们还会增加对UE进程的监控能力，从而提供更加稳定的像素流服务。

负载均衡

负载均衡是整个设计的最核心的地方，我们需要实现不同机器，不同显卡实例的负载均衡。这里引入显卡缓存的概念，我们整个负载均衡理论基于显卡的内存来进行。

比如4090显卡内存24G，4080显卡内存16G，那么我们就配置好，还可以配置多个显卡。示例如下

"gpu": [
    {
   "gpucard": 0,
   "gpumemory": 24
    },
    {
   "gpucard": 1,
   "gpumemory": 24
    }
  ]

UE实例我们也引入同样的概念，预先配置每个UE实例的显存大小，相关示例如下

{
  "name": "test",
  "path": "C:\\Users\\deans\\Desktop\\ueproject\\UE51\\Windows\\ue51.exe",
  "urlprefix": "hedongzai",
  "gpumemory": 9,
  "param": ""
   }

这样我们就可以计算出每个显卡剩余可用的显存大小，从而可以选择出最优的显卡进行运行。
此外，我们还引入了时间的概念，为了保证每个显卡都可以被使用，我们设计了一个显卡上次开启实例的时间，选择时间最小的那个作为下一个被使用的显卡。

gpu缓存锁定

有时候刚启动UE实例，但是还无法和signal建立连接，这个时候计算剩余缓存的时候，并不会进行计算。这里我们引入了一个缓存锁定的思路，即当执行启动UE实例的时候，我们就锁定这个GPU显卡的缓存，当UE与signal建立连接之后，我们再将锁定移除，有时候启动进程会失败，我们给出一个超过时间，超过这个时间也进行移除。