Hadoop:是什么,如何工作,可以用来做什么

Hadoop由来

        在Google的早些时候,为了充分利用为大量结构化数据建立的索引,向用户提供有用的信息,这项技术被发明了。当时没有可以利用的解决大量数据的技术,所以他们构建了自己的平台。Google的这项技术被用到了Nutch,一个开源的项目,后来,Hadoop被独立了出来。Yahoo在hadoop被应用到企业中发挥了关键的作用

Hadoop可以解决哪些问题

       Hadoop平台解决需要计算大量数据的问题,这些数据或许是复杂的结构化数据,不能很好的存储到数据表中。你要做的分析,需要深而广泛的计算,比如集群。这正是Google在做的,为网络数据建立索引,分析用户行为,提高算法的准确性。
       Hadoop有很大的市场。在金融领域,精确评估投资组合和风险分析,建立一个复杂的模型,但是很难使用数据库引擎,Hadoop可以处理这个问题。在线零售,如果你想为用户提供更好的搜索,展示他们更可能买的商品,Hadoop可以很好地处理。这只是其中的几个例子。

如何搭建Hadoop

         Hadoop运行在多个机器上,这些机器油独立的内存和磁盘。你可以购买多个商业服务器,组成一个框架,在每个服务器上运行Hadoop软件。当你把企业数据导入到Hadoop,软件只是把数据分片到多个机器上。你不需要数据的具体的位置,Hadoop保存数据位置。并且保存多个副本。
        在以数据库系统为中心,你有很大的磁盘可以连接4个,8个甚至16个处理器。但这也只是集群能承受的了。但在Hadoop集群,每个服务器有4个或8个CPUs,你可以为每个工作建立索引,把代码分配到集群上的服务器,每个服务器独立运行某片数据,然后运行的结果整合到一起。这就是MapReduce:每个运行映射到服务器,结果归约到一个集合。
之所以能处理大量数据,Hadoop把数据分片了。能处理复杂的计算,Hadoop多个服务器并行处理。
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值