揭秘网易视频云在数据传输方面的优化实战

摘要:在5月12号开幕的第七届中国数据库大会上,网易杭州研究院的服务端技术专家邱似峰从改善用户体验的角度出发,在数据传输优化方面分享自己的实战经验。如何让用户能够通过互联网最快的获取到云端的数据?如何能够保证在弱网条件下用户体验最佳?这些问题已经成为音视频服务实际应用的痛点。

截止到2015年末,中国在线直播平台数量接近200家,其中网络直播的市场规模约为90亿,直播平台用户数量业已突破2亿人次,行业发展开始驶入快车道。而随着视频直播市场的大爆发,对音视频服务的要求也越来越高。

事实上,视频服务行业的服务能力一直在提升和进步,网络直播的爆发带动了音视频服务从以产品为中心到以用户为中心的转变。在视频服务的1.0时代,巨量的音视频存储和带宽流量带来了丰厚利润,促使一批CDN厂商的崛起,建立起了相对完善的数据传输网络,能为客户提供全面的音视频服务。进入2.0时代后,视频服务迎来了“云时代”,一整套的云计算线上标准售卖方式极大降低了开发者的使用成本和售前售后成本,不过云服务能力增强的同时,具体落实的音视频技术有限。

可以这么说,视频服务1.0时代的“重产品,轻服务”和2.0时代的“轻产品,重服务”都不是终点,当前的视频服务3.0应该是以用户体验为王的时代。与之同时,基于云计算的视频云服务全面崛起,出现了网易视频云等打造一站式解决方案的视频云服务商。

在5月12号开幕的第七届中国数据库大会上,网易杭州研究院的服务端技术专家邱似峰从改善用户体验的角度出发,在数据传输优化方面分享自己的实战经验。如何让用户能够通过互联网最快的获取到云端的数据?如何能够保证在弱网条件下用户体验最佳?这些问题已经成为音视频服务实际应用的痛点。

移动端网络问题繁多,核心在哪?

国内网络环境的一个典型问题就是电信和联通的南北分隔,再加上难以统计的小规模运营商,网络环境似乎不容乐观,而访问国外节点的状况要更加令人堪忧。对于不少开发者来说,数据传输的优化已经成为影响用户体验的核心问题。

网络环境的恶劣主要体现在两个方面,一个是丢包,另一个是延时。WiFi、2G、3G、4G等等,相比于PC网络,移动互联网的一个显著特点就是网络环境不稳定,丢包现象比较严重,直接导致了客户端与服务端的连通率较低,致使文件上传下载速度很慢、成功率较低。而延时则是移动互联网和PC 网络所必须面临的问题,具体体现就是广域网高延时。举个例子来说,一个位于杭州的机房,想要和西北、华北、西南等区域的节点通信基本上有30ms~50ms左右的延时,在网络繁忙的时候这个数字要更加惊人。对于互联网巨头而言,可以通过增加机房和节点来解决这一问题,但不少开发者不得不面临移动网络环境复杂这一实际且必须要解决的问题。

邱似峰介绍说,移动互联网下的数据传输大致可以分为两个阶段,即客户端和基站的通信以及基站和数据中心之间的数据传输。前半段的特点是高丢包率,后半段的麻烦在于网络高峰期的延时。也就是说数据传输的核心问题是由网络造成的,网易视频云的解决方案也主要集中在网络层次上。就目前来看,网易视频云已经为客户提供了全面的端到端解决方案,并已经上线了直播、点播等功能满足多种行业的使用场景,而网易新闻、BoBo美女主播、网易云课堂等知名互联网产品的直播功能均是基于网易视频云提供服务的。

“网易本身就是视频云服务的使用者,我们从开发者的角度来打磨产品,解决了很多实际应用中所面临的问题”邱似峰介绍说。而在移动互联网环境下的数据传输上,网易视频云又重点做了哪些优化工作呢?

优化+投入,网易视频云的全球数据加速网络

作为国内最早部署云计算的互联网巨头,网易经历了内部研发到对外技术开放的过程,诸如网易云信、网易蜂巢、网易七鱼等都是网易对外开放的云计算服务。网易视频云作为网易云计算的又一重磅产品,必须要解决的就是建立全球性的数据加速网络,而网易视频云的解决之道就是技术优化和硬件投入。

据邱似峰介绍,网易视频云针对移动端场景设计了一套通用的并发上传协议,实现了多个分块并发上传,充分利用客户端上传带宽,而分块内部采用分片串行上传,有效解决了断点续传问题。而传统的标准OSS上传协议并没有为移动端进行专门设计,包括针对大文件场景设计的最小5M的分块上传协议,而用户在实际使用中所需要传输的文件一般只有几十KB。此外,网易视频云还根据移动场景优化了HTTP PipeLine,测试显示在国内上传速率提高了四分之一以上,而对国外的传输效果要更加明显。这样便有效解决了客户端和基站直接的通信,很大程度的减少了丢包。

而在边缘节点和数据中心的传输优化上,也就是广域网的优化方面,网易视频云实现了HTTP长连接池,避免了每次的TCP慢启动过程,并通过提升拥塞窗口完成了TCP拥塞控制。而为了达到更好的优化效果,网易视频云团队还对协议层、TCP层和HTTP层进行了优化。“我们选择了北京、成都、广州、西安四个节点进行了测试,其中对北京AWS为优化后的节点。结果很明显,上传50K数据时,北京AWS节点到杭州中心机房所花的时间要比未优化的网络在响应时间上至少缩短了50ms”邱似峰在DTCC上分享道。

基于网易强大的资金能力,网易视频云已经在国内实现了华北、华南、华中、西北、西南等几个核心大区的节点分布,并在北美、东京、新加坡、爱尔兰等进行了AWS布点以及香港专线,业已完成了全球上传加速网络的部署。有了这些硬件基础的支撑,再加上对DNS解析、域名劫持、小运营商多出口等开发痛点的解决,网易视频云在全球范围内构建了一个数据上下行加速体系,而网易视频云在实践过程中积累的数据传输优势也将通过视频云服务造福更多的开发者。

传统的数据传输正在发生快速演变,尤其是企业对数字化转型的迫切需求和云计算的普及,直接推动了超高密度数据中心的兴起。而如何应对数据传输量的爆发式增长、保证信息数据的可靠传输、有利于更加便捷的升级、有效应对能源消耗问题,以及减少运营成本等等,成了开发者不得不面临的新问题。或许,网易视频云等巨头系产品从用户体验出发的研发思路,对解决移动互联网时代的新问题有着不错的借鉴价值。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
引用\[1\]:在过去的两个月里,Databricks公司举办了一场会议,将数据团队聚集在一起,共召开220多个会议,有无数机会与同行交流——超过50,000名数据科学家、数据工程师、分析师、商业领袖和其他数据专业人士。 Spark + AI 峰会虚拟环境。 引用\[2\]:本书以数据智能为灵魂,以Spark 2.4.X版本为载体,以Spark+ AI商业案例实战和生产环境下几乎所有类型的性能调优为核心,对企业生产环境下的Spark+AI商业案例与性能调优抽丝剥茧地进行剖析。全书共分4篇,内核解密篇基于Spark源码,从一个实战案例入手,循序渐进地全面解析Spark 2.4.X版本的新特性及Spark内核源码;商业案例篇选取Spark开发中最具代表性的经典学习案例,在案例中综合介绍Spark的大数据技术;性能调优篇覆盖Spark在生产环境下的所有调优技术; Spark+ AI内幕解密篇讲解深度学习动手实践,通过整合Spark、PyTorch以及TensorFlow揭秘Spark上的深度学习内幕。本书适合所有大数据和人工智能学习者及从业人员使用。对于有丰富大数据和AI应用经验的人员,本书也可以作为大数据和AI高手修炼的参考用书。同时,本书也特别适合作为高等院校的大数据和人工智能教材。 问题:spark数据分析实战——奥运会 回答: Spark是一个强大的大数据处理框架,可以用于数据分析和处理。在奥运会数据分析实战中,Spark可以帮助我们处理大规模的奥运会数据,进行数据清洗、转换和分析。通过使用Spark的分布式计算能力和优化技术,我们可以高效地处理大量的奥运会数据,并从中提取有价值的信息。同时,Spark还提供了丰富的数据处理和机器学习库,可以帮助我们进行数据挖掘和建模,以便更好地理解和预测奥运会的趋势和结果。通过结合Spark和AI技术,我们可以实现更深入的奥运会数据分析,并为奥运会的组织者、运动员和观众提供更好的决策支持和用户体验。 #### 引用[.reference_title] - *1* *2* [免费参加全球最大的Spark+AI峰会(Databricks 2020年6月22-26日)!免费访问峰会主题演讲及分组会议!](https://blog.csdn.net/duan_zhihua/article/details/106729096)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] - *3* [热烈祝贺王家林大咖大数据经典传奇著作《Spark大数据商业实战三部曲》 畅销书籍第二版 清华大学出版社发行...](https://blog.csdn.net/duan_zhihua/article/details/106294896)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insertT0,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值