优酷网视频存储架构

原创 2010年06月15日 23:46:00

视频分享网站总会面对这样两个问题:视频资源能否吸引网民以及视频浏览是否顺畅?中国互联网协会互联网数据中心发布的《2008上半年视频网站数据》显 示,2008年上半年,优酷网月度总访问时长突破1.1亿小时,通过与全行业的浏览时长比对,优酷网占据的时长份额已超过50%。Gomez中国网站用户 体验排行榜显示,2008 年7月1日到2008年7月31日,优酷网的平均响应时间是2.78秒。

1.1亿小时与2.78秒,正是这两个长短对比鲜明的数据,充分体现出优酷网“快者为王”的经营理念。近日,记者独家采访了优酷网CTO姚键,试图从技术 方面揭密优酷网的快字诀。

一切为了性能

“2007年,优酷网的用户访问量提升了25倍。”姚键说起这个增长仍显激动,“硬件设备同样有相应的增加。”据记者了解,目前优酷网有近千万个视频资 源,以每段视频20MB来计算,大约占据200TB的存储空间。优酷网采用服务器直连式存储(DAS)架构,即一台服务器只连接一台存储阵列。姚键透露, 优酷网目前有数千台服务器。

优酷网的服务器主要来自戴尔,还有一部分来自惠普。优酷网引进的戴尔服务器主要以 PowerEdge 1950与PowerEdge 860为主,存储阵列以戴尔MD1000为主。如上图所示,优酷网将PowerEdge 1950作为Web服务器和流媒体服务器,分别服务于页面系统与视频系统。另外,还有一些服务器作为转码服务器,将用户上传的视频进行解码和再编码,最后 做成统一的FLV格式。在存储层面,优酷网主要利用戴尔MD1000+ PowerEdge 860的组合,两者以DAS的方式相连,作为一个存储单元。

在回答记者提出的为何没使用网络存储,如SAN等架构时,姚键表示:“用户访问量持续成倍增长,对系统的性能、成本和可扩展性都造成了很大压力。采用 DAS存储可以更好地满足对性能的需要。如果采用SAN存储,不仅成本增加会十分明显,而且在系统变得日益庞大时,性能也会出现瓶颈。”

“为了提高用户的访问速度,我们想了很多办法。”姚键表示,“我们甚至都不用RAID。不采用RAID技术,可以节省很大的存储空间,同时减少成本,而且 能够提供更好的I/O性能。”据悉,目前优酷网的存储系统利用率都在90%以上。不用 RAID是否会给视频数据的安全带来不良后果?姚键表示:“由于优酷网采用了自建的内容分发网络(CDN)技术,所有视频在不同的城市都有副本,所以不用 担心数据的安全性。即使某地的一段视频发生了损坏,用户也可由实时的调度系统引导至其他CDN站点进行视频浏览。在优酷网的内容分发网络中,局部失效不影 响整体访问,实际上比存储网络的安全性更高。”

更大范围内的分级存储

自建的调度系统是优酷网实现快速访问体验的核心。优酷网将所有的服务器和存储设备分布在全国20多个CDN站点中,方便当地用户就近访问,以获得更快的视 频体验。

不像其他应用可提前计划,互联网访问具有很大的不可预知性,很难预测什么视频在哪段时间的访问会突然增加。因此,实时有效的调度系统就显得非常关键。在网 民访问优酷网的视频时,调度系统会根据该视频原本发布所在的位置、用户IP地址等信息安排网民就近访问,并会参考该站点的设备是否出现损坏、该地区是否是 访问热点等因素,以便使用户的浏览速度达到最快。正是有了高效的调度系统,优酷网才可以将 90%以上的带宽都提供给用户,而其他CDN系统提供给用户的带宽通常只有70%~80%。

“优酷网所有的视频在一周之内会被用户访问一遍。”姚键说,“因此,优酷网的数据区分在线、离线的意义不大,更不用像其他行业那样要把部分历史数据进行归 档处理。”事实上,优酷网对视频信息也会区别对待,只是区分的标准在于访问热度。访问频率高的视频会根据访问用户地址在各CDN站点间重新分布,并且会存 放在SAS硬盘上,而冷门视频则会存放在速率稍慢的SATA硬盘上。

用户连线

优酷网CTO姚键

技术是互联网的生命。由于设备急速增加,我们非常在意系统的成本、性能与可扩展性。我们没有使用最先进、最贵的系统,就像Google使用自己的文件系统 一样,不在乎贵不贵,而在乎是否合理运用。每台服务器或存储系统配多少块硬盘,文件块的大小为多少,我们都会做详细测试,以实现更佳的性能配置。

大小: 115.19 K 尺寸: 500 x 258 浏览: 74 次 点击打开新窗口浏览全图

 

快速崛起的视频网站

根据知名调研机构AC尼尔森公司的数据:优酷网日视频播放量(VV)在2007年12月就突破1亿,每 日独立访问用户数量(UV)超过1200万。最新的数据是优酷网的VV已经达到1.5亿,UV超过2500万。“在一定的周期内,硬件平台的性能必将会发 挥到极限,但此时用户的需求仍持续性地高速增长,这就需要最新技术和最新产品要跟得上甚至超过我们的步伐。我们每年都会经历几次‘向硬件要性能’的阶 段。” 优酷网采购经理赵辉先表示。

“我们重视新技术,例如对SSD(固态硬盘)就很渴望。我们非常看重SSD的I/O能力,其随即读写速 度非常高,这是现有所有硬盘都达不到的。我们渴望这种新的硬盘能迅速应用到新的服务器中。” 赵辉说。

目前优酷网采用的是基于Flash的视频点播技术,这与P2P直播/点播有所不同,前者所有流量都来自 服务器。因此优酷网相比其他网站,更需要大量存储和流媒体服务器。
 
基于此,优酷网对硬件设备供应商的要求主要有以下几点:

第一, 供货期短。硬件设备的供货是否及时,对发展迅猛的互联网企业而言生死攸关。用赵辉先生的话说,“我们要求供应商能迅速供货,而不是坐等。在互联网行业,等 待往往就意味着死亡。”供货期尽可能地短,成为其选择供货商的首要因素。

第二, 产品线完备。一方面,互联网行业是对新技术有着强烈需要的行业,渴望最新的技术能迅速应用到成熟的硬件产品中;另一方面,“适合的就是最好的”,考虑到成 本等因素,优酷网还需要一些虽然不是“最好的”,却是最“适合的”产品,这就要求硬件设备供应商的产品线齐全,用赵先生的话说就是,“我们要的设备,供应 商都要有。”

第三, 由于运营成本高,性价比也是优酷网需要考虑的重点。最后,由于优酷网的服务器分布在全国各地,远程管理与7X24小时现场服务等优质的技术支持与服务也是 优酷网必需的。

服务器应用

目前,优酷网主要采用dell PowerEdge 1950、PowerEdge 860,存储阵列以dell MD1000为主。这些设备的主要配置如下:

PE1950采用英特尔至强5310处理器,4G内存,两块300G SAS硬盘。PE860采用英特尔至强3060处理器,4G内存,一块80G SATA硬盘。MD1000存储阵列则装载有15块750G SATA硬盘。

在体系结构上,优酷网采用分布式的结构,服务器和存储设备分布在全国各地,用户就近访问,获得最快的视 频体验。

优酷网将PE1950作为Web服务器和流媒体服务器,分别服务于页面系统与视频系统。页面系统用以展 示用户信息、积分、留言及视频的截图、排名、展示等,该系统所用的服务器数量只占20%左右,80%的服务器都是用于视频系统的流媒体服务器,它们通过负 载均衡的方式为用户提供流媒体服务。

优酷网视频系统的加速机制较复杂,简单而言,它通过多种方式保证分布在全国各地的用户进行就近访问—— 用户点击视频请求后,优酷网将根据用户所处地区位置,将离用户最近、服务状况最好的视频服务器地址传送给用户,从而保证用户可以得到快速的视频体验。另 外,还有一些服务器作为转码服务器——由于用户上传的视频格式很不统一,大小也不一样,就需要转码服务器首先进行解码,解码后再编码,最后做成flash 文件,即统一的Flv格式。转码服务器在做完这些工作后,进行分发,存储,最后再通过流媒体服务器将视频传送给用户。

在存储层方面,与服务器层面的“就近访问”相对应,优酷网的存储则是采用“分布式存储”,即利用 “MD1000+PE860”的组合,将视频数据都存储在服务器所处的全国各大城市。MD1000与PE860以DAS(直连存储)的方式相连,作为一个 存储单元,每个存储单元之间各自为阵,不存在关联——一台PE860服务器只连接一台MD1000存储器。

高并发集群架构超细精讲

-
  • 1970年01月01日 08:00

优酷、YouTube、Twitter及JustinTV视频网站架构设计笔记

本文是整理的关于优酷、YouTube、Twitter及JustinTV几个视频网站的架构或笔记,对于不管是视频网站、门户网站或者其它的网站,在架构上都有一定的参考意义,毕竟成功者的背后总有值得学习的地...
  • fenglibing
  • fenglibing
  • 2013-08-28 17:19:40
  • 47703

优酷网视频存储架构

视频分享网站总会面对这样两个问题:视频资源能否吸引网民以及视频浏览是否顺畅?中国互联网协会互联网数据中心发布的《2008上半年视频网站数据》显示,2008年上半年,优酷网月度总访问时长突破1.1亿小时...
  • starxu85
  • starxu85
  • 2010-06-15 23:46:00
  • 14413

优酷网架构

记得以前给大家介绍过视频网站龙头老大YouTube的技术架构,相信大家看了都会有不少的感触,互联网就是这么一个神奇的东西。今天我突然想到,优酷网在国内也算是视频网站的老大了,不知道他的架构相对于You...
  • VLTIC
  • VLTIC
  • 2013-03-26 09:00:48
  • 916

优酷网架构学习笔记

记得以前给大家介绍过视频网站龙头老大YouTube的技术架构,相信大家看了都会有不少的感触,互联网就是这么一个神奇的东西。今天我突然想到,优酷网在国内也算是视频网站的老大了,不知道他的架构相对于You...
  • fengzanfeng
  • fengzanfeng
  • 2011-09-10 11:45:09
  • 395

获取优酷视频m3u8方法

在优酷的网页上随便点个视频,获得该视频的网页网址,比如: http://v.youku.com/v_show/id_XNTY3ODc5NTk2.html 其中,XNTY3ODc5NTk...
  • u010025003
  • u010025003
  • 2016-10-07 22:17:49
  • 2335

如何用技术手段“干掉”优酷、腾讯视频 App 里讨厌的广告?

点击上方“CSDN”,选择“置顶公众号”关键时刻,第一时间送达!作者简介:互扯程序,某互联网公司 P8 级专家攻城狮,曾参与过央视全台网的研发工作。目前正在做车联网项目的云平台的架构设计与研发工作。平...
  • csdnnews
  • csdnnews
  • 2017-12-28 00:00:00
  • 8846

优酷分享的视频怎么让手机也能播放

最近的有关项目需要使用video标签播放视频,并且视频的路径src是优酷里面的视频,所以需要得到优酷里面的mp4路径才能播放。 但是在网上查了下资料,看到优酷的播放格式是一个m3u8文件,如图所示:...
  • forest_fire
  • forest_fire
  • 2017-10-19 13:47:06
  • 529

用Google浏览器下载网页视频(包括优酷,土豆等网站视频)

用Google浏览器下载网页视频(包括优酷,土豆等网站视频)
  • zhangwenjuan333
  • zhangwenjuan333
  • 2017-03-15 15:32:39
  • 890

从优酷网的融资续谈互联网发展

从优酷网的融资续谈互联网发展 文/王易见(欢迎翻译和约稿等合作)QQ 543415188  Web2.0时代的投资者对互联网的信心显然已经不如Web1.0时代,所有的投资者似乎都开始将目光放到了互联网...
  • feitianhanxue
  • feitianhanxue
  • 2007-11-26 09:11:00
  • 1163
收藏助手
不良信息举报
您举报文章:优酷网视频存储架构
举报原因:
原因补充:

(最多只允许输入30个字)