百度南京数据中心:数据中心计算与变革

2013年1月11日,随着百度南京数据中心的“开放日”迎来首批嘉宾访客,百度云计算硬件基础设施的神秘面纱也逐步显现。从百度云首席架构师林仕鼎微博中也透露出包含百度自主研发SSD在内的五个突破性成果。

\

本次云计算基础设施中五个成果分别为:

\
\
  • 全球首个ARM服务器在数据中心的规模应用,取得10项发明专利。实现了数据中心低成本和低功耗运行。存储密度提升70%,TCO降低25%;\
  • 国内首个大规模部署的定制化整机柜,自主设计,取得40项设计专利。TCO降低10%,支付效率提升10倍;\
  • 国内最大的万兆集群(5000台),百度自主研发,接入成本对比同类商用方案下降83%;\
  • SSD实现百度自主研发,产生发明专利3项,学术论文2篇。与PCIe flash相比,性能提升2倍,成本降低40%;与SATA SSD相比,性能提升6倍,成本降低10%;\
  • PUE达国内领先、国际一流水平。如百度M1自建机房最佳PUE达1.18,年均PUE达1.37,能效提升7%,全年完全免费冷却时间达4200小时,占全年时间的48%。\
\

传统以来,PC与服务器界,Intel Inside的标志几乎是不可更改的习惯。本次专为百度云服务设计的ARM,基于云平台将软件与CPU指令集解耦,实现了轻计算负载,高存储密度,存储密度提升了70%,TCO降低了25%。而为了达成低功耗,低成本,百度也实现了指令集变迁,即一套代码,两种平台(X86\u0026amp;ARM)。

\

据参观了百度南京云数据中心人员透露,该数据中心集成了国内互联网行业最大的万兆集群,集群规模超过5000个节点。此外,该机房使用了百度自主研发的,基于64核处理器的负载均衡系统,该系统可以为业务提供最大320G的负载均衡以及DDoS攻击防御服务,而其成本不到商用设备的10%。

\

林仕鼎也在微博中提到

\
\

百度SSD,是我一直鼓吹的Datacenter Computing领域中application-driven, software-defined设计理念的典型实践。我们重新设计了SSD控制系统,取消写缓冲,对外暴露数据通路,把通路调度,读写平衡、擦除等操作都留给上层软件系统。在存储系统里,已经充分考虑了读写性能不均问题,并且在机群规模进行冗余远比在单块SSD里考虑来得有效。这个SSD配合CCDB新存储系统已经开始大规模使用,软硬件协同创新。硬件和基础设施简单可控可管理,软件更聪明更灵活,应用从上到下逐层驱动系统进化为竖井式架构,这是在数据中心里发生的技术革命。 

\
\

自建数据中心年均PUE1.37,国内最佳。PUE(Power Usage Effectiveness)是国际上通用的数据中心能源使用效率衡量指标。PUE=数据中心总设备能耗/IT设备能耗,是一个比值,PUE越接近1表明能效水平越高。国内数据中心PUE目前平均值约为2.5,这意味着IT设备每消耗1度电,就有多达1.5度的电被IT配套基础设施消耗掉了。若全国数据中心PUE均值从2.5降低到百度的1.37,则节能率达到45.2%,保守估计全年可节电超过35亿度。 

\

此外,业内人士也对此举表达了自己的看法:

\
\

@网易汪源:需求多变时,就把硬的做成软的;需求不变时,就把软的固化成硬的。从看山是山,到看山不是山,再到看山还是山,历史总是正弦曲线般振荡。也有人是余弦,总差个周期,忽视相位差,竟成预言家。现在搞软的正当时,相信过几年百度又会来硬的。

\

@梁斌penny:1年前百度的HR找我抓搞硬件的人才,我还觉得奇怪,怎么百度也要搞硬件了,现在看来,还真是搞出了东西,不过我觉得还是专业分工好,便于专业化。

\

@文非刀:就是用高效计算单元替换低效计算单元,在高层协调数据读写调度的竖井式结构,比较容易协调读写效率,最大的好处就是结合应用层设计方便调度了,有钱公司就是好啊,估计后续还有其他硬件出来。

\

@陈怀临:“计算进一步靠近数据” 。 很牛呀!不是数通的人能说出这样的理解……我记得我2,3年前在数通圈子里提过这个口号。

\

@刘欧V:百度这个创新最牛之处并不只在于技术方案如何,而是做事情的理念和魄力,敢于颠覆”事情就是这样的”陈规,根据现状实际需求,打破长久默认的只适合老场景的软硬件之间的信息透明程度,层与层之间信息透明了,没有旧机制的束缚,事情就变得不一样了,想象空间和新的power就会迸发出来,这个意义更大。

\

@邱隆华为:底层硬件和驱动是华为的,通过和百度合作定制,开放接口,最终应用于百度系统,效果大家都看到了。图片是华为的第三代SSD卡,当前已经进入第四代,性能是号称最强F友商的两倍,可靠性和工作时间均创记录,是数据加速的不二神器。相信第四代卡可以给百度继续带来更大的帮助。

\

@陈怀临:昨天普林斯顿的一个好朋友还问这个,好吧,你都做出来了,太牛了。

\

@梁斌penny:据我了解,有一些硬件企业拿他们的产品卖百度,它们集成视频编解码、数据压缩等模块在硬件上,可能是刺激了百度,于是决定自主研发。

\
\

相关内容:

\

林仕鼎讲稿下载《数据中心计算与变革》

\

资料下载:百度网页库存储引擎BDDB设计简介

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1 目标检测的定义 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。由于各类物体有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具有挑战性的问题。 目标检测任务可分为两个关键的子任务,目标定位和目标分类。首先检测图像中目标的位置(目标定位),然后给出每个目标的具体类别(目标分类)。输出结果是一个边界框(称为Bounding-box,一般形式为(x1,y1,x2,y2),表示框的左上角坐标和右下角坐标),一个置信度分数(Confidence Score),表示边界框中是否包含检测对象的概率和各个类别的概率(首先得到类别概率,经过Softmax可得到类别标签)。 1.1 Two stage方法 目前主流的基于深度学习的目标检测算法主要分为两类:Two stage和One stage。Two stage方法将目标检测过程分为两个阶段。第一个阶段是 Region Proposal 生成阶段,主要用于生成潜在的目标候选框(Bounding-box proposals)。这个阶段通常使用卷积神经网络(CNN)从输入图像中提取特征,然后通过一些技巧(如选择性搜索)来生成候选框。第二个阶段是分类和位置精修阶段,将第一个阶段生成的候选框输入到另一个 CNN 中进行分类,并根据分类结果对候选框的位置进行微调。Two stage 方法的优点是准确度较高,缺点是速度相对较慢。 常见Tow stage目标检测算法有:R-CNN系列、SPPNet等。 1.2 One stage方法 One stage方法直接利用模型提取特征值,并利用这些特征值进行目标的分类和定位,不需要生成Region Proposal。这种方法的优点是速度快,因为省略了Region Proposal生成的过程。One stage方法的缺点是准确度相对较低,因为它没有对潜在的目标进行预先筛选。 常见的One stage目标检测算法有:YOLO系列、SSD系列和RetinaNet等。 2 常见名词解释 2.1 NMS(Non-Maximum Suppression) 目标检测模型一般会给出目标的多个预测边界框,对成百上千的预测边界框都进行调整肯定是不可行的,需要对这些结果先进行一个大体的挑选。NMS称为非极大值抑制,作用是从众多预测边界框中挑选出最具代表性的结果,这样可以加快算法效率,其主要流程如下: 设定一个置信度分数阈值,将置信度分数小于阈值的直接过滤掉 将剩下框的置信度分数从大到小排序,选中值最大的框 遍历其余的框,如果和当前框的重叠面积(IOU)大于设定的阈值(一般为0.7),就将框删除(超过设定阈值,认为两个框的里面的物体属于同一个类别) 从未处理的框中继续选一个置信度分数最大的,重复上述过程,直至所有框处理完毕 2.2 IoU(Intersection over Union) 定义了两个边界框的重叠度,当预测边界框和真实边界框差异很小时,或重叠度很大时,表示模型产生的预测边界框很准确。边界框A、B的IOU计算公式为: 2.3 mAP(mean Average Precision) mAP即均值平均精度,是评估目标检测模型效果的最重要指标,这个值介于0到1之间,且越大越好。mAP是AP(Average Precision)的平均值,那么首先需要了解AP的概念。想要了解AP的概念,还要首先了解目标检测中Precision和Recall的概念。 首先我们设置置信度阈值(Confidence Threshold)和IoU阈值(一般设置为0.5,也会衡量0.75以及0.9的mAP值): 当一个预测边界框被认为是True Positive(TP)时,需要同时满足下面三个条件: Confidence Score > Confidence Threshold 预测类别匹配真实值(Ground truth)的类别 预测边界框的IoU大于设定的IoU阈值 不满足条件2或条件3,则认为是False Positive(FP)。当对应同一个真值有多个预测结果时,只有最高置信度分数的预测结果被认为是True Positive,其余被认为是False Positive。 Precision和Recall的概念如下图所示: Precision表示TP与预测边界框数量的比值 Recall表示TP与真实边界框数量的比值 改变不同的置信度阈值,可以获得多组Precision和Recall,Recall放X轴,Precision放Y轴,可以画出一个Precision-Recall曲线,简称P-R
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值