![](https://img-blog.csdnimg.cn/20201014180756724.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
笔记
weixin_47917523
这个作者很懒,什么都没留下…
展开
-
2020-12-17
HadoopHadoop框架中最核心的设计就是:MapReduce和HDFS。MapReduce的思想是由Google的一篇论文所提及而被广为流传的,简单的一句话解释MapReduce就是“任务的分解与结果的汇总”。HDFS是Hadoop分布式文件系统(Hadoop Distributed File System)的缩写,为分布式计算存储提供了底层支持。MapReduce从它名字上来看就大致可以看出个缘由,两个动词Map和Reduce,“Map(展开)”就是将一个任务分解成为多个任务,“Reduce”就原创 2020-12-23 17:51:23 · 98 阅读 · 0 评论 -
2020-12-2
Hadoop(1)概念:Hadoop是Apache软件基金会旗下的一个分布式计算平台,为用户提供了系统底层细节透明的开源分部式基础架构。Hadoop被公认为行业大数据标准开源软件Hadoop是基于Java语言开发的,具有很好的跨平台性。(2)Hadoop的核心是分布式文件系统HDFS和MapReduce(3)Hadoop的特点高可靠性、高效性、高可扩展性、成本低、运行在Linux平台上、支持多种编程语言(4)Hadoop的三大核心技术a:HDFS(分布式文件系统、可以运行在廉价商用服务器集群原创 2020-12-23 17:50:36 · 65 阅读 · 1 评论 -
2020-11-24
3.云计算可用性参考模型根据Berkeley对云计算模型的定义,可以分为基础架构平台IAAS(Infrastructure as a service),平台服务PAAS(Platform as a service),业务软件SAAS(Software as a Service)三层结构[6],其中IAAS主要关注网络架构和虚拟化技术,提供基础架构服务,PAAS主要面向应用开发,提供开发平台服务,SAAS面向终端用户,提供软件产品服务。据Gartner2013年公有云市场份额将会增长18%,达到1310亿美原创 2020-12-20 01:24:23 · 55 阅读 · 1 评论 -
2020-11-24
3.云计算可用性参考模型根据Berkeley对云计算模型的定义,可以分为基础架构平台IAAS(Infrastructure as a service),平台服务PAAS(Platform as a service),业务软件SAAS(Software as a Service)三层结构[6],其中IAAS主要关注网络架构和虚拟化技术,提供基础架构服务,PAAS主要面向应用开发,提供开发平台服务,SAAS面向终端用户,提供软件产品服务。据Gartner2013年公有云市场份额将会增长18%,达到1310亿美原创 2020-12-20 01:23:06 · 56 阅读 · 1 评论 -
2020-11-18
虚拟化技术通过对云计算数据中心提高资源利用率和用户QOS的需求进行分析,围绕其中的关键技术虚拟化技术,从服务器虚拟化、网络虚拟化、存储虚拟化三个方面进行总结,针对云计算平台建立其可用性模型,分析了IAAS,PAAS,SAAS 三种云服务模式的可用性计算方法,最后通过实验验证了云计算可用性参考模型适用于常见的云服务模式。1.概述目前数据中心的规模迅速发展,根据Netcraft服务器数量报告,Akamai Technology达到10.5万台,OVH达到10万台,Google根据能耗估计约90万台。快速发原创 2020-12-20 01:20:46 · 91 阅读 · 1 评论 -
2020-11-04
云计算特点如下:(1) 超大规模“云”具有相当的规模,Google云计算已经拥有100多万台服务器, Amazon、IBM、微软、Yahoo等的“云”均拥有几十万台服务器。企业私有云一般拥有数百上千台服务器。“云”能赋予用户前所未有的计算能力。(2) 虚拟化云计算支持用户在任意位置、使用各种终端获取应用服务。所请求的资源来自“云”,而不是固定的有形的实体。应用在“云”中某处运行,但实际上用户无需了解、也不用担心应用运行的具体位置。只需要一台笔记本或者一个手机,就可以通过网络服务来实现我们需要的一切,原创 2020-12-18 09:51:18 · 138 阅读 · 0 评论 -
2020-11-04
云计算特点云计算,是一种基于因特网的超级计算模式,在远程的数据中心里成千上万台电脑和服务器连接成的一片电脑云,用户可以通过电脑、手机等方式接入数据中心,按自己的需求进行运算。是IT基础设施的交付和使用模式,是通过网络以按需、易扩展的方式获得所需的资源。其基本原理:通过使计算分布在大量的分布式计算机上,而非本地计算机或远程服务器中,企业数据中心的运行更与互联网相似。这使得企业能够将资源切换到所需要的应用上,根据需求访问计算机及储存系统。它好比是从单台发电机发电模式转向了电网集中供电的模式。它意味着计算能力原创 2020-12-18 09:50:29 · 35 阅读 · 0 评论 -
2020-10-28
云计算与大数据的关系从技术上来看,大数据和云计算的关系就像一枚硬币的正反面一样密不可分。大数据必然无法用单台的计算机进行处理,必须采用分布式架构。它的特色在于对海量数据进行分布式数据挖掘,但它必须依托云计算的分布式处理、分布式数据库和云存储、虚拟化技术。 云时代的来临,大数据的关注度也越来越高,分析师团队认为大数据通常用来形容一个公司创造的大量非结构化数据和半结构化数据。大数据分析常和云计算联系到一起,因为实时的大型数据集分析需要像MapReduce一样的框架来向数十、数百或甚至数千的电脑分配工作。大原创 2020-12-18 09:47:14 · 57 阅读 · 0 评论 -
2020-10-28
1、数据分析的概念数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,将他们加以汇总和理解消化,以求最大化地开发数据的功能,发挥数据的作用。2、做数据分析的原因1、有效避免拍脑袋、主观臆想;2、为决策提供支撑,更能说服人;3、通过数据分析,可以看到决策的效果、问题以及未来应该如何做。知乎用户@绡页的答案很简单,但却一语中的:1、“知错能改,善莫大焉”——可是错在哪里,数据分析告诉你。2、“运筹帷幄之中,决胜千里之外”——怎么做好“运筹”,数据分析告诉你。3、“以往鉴来,未卜先知”——怎么发现历原创 2020-12-18 08:16:48 · 42 阅读 · 0 评论 -
2020-10-28
1、数据分析的概念数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,将他们加以汇总和理解消化,以求最大化地开发数据的功能,发挥数据的作用。2、做数据分析的原因1、有效避免拍脑袋、主观臆想;2、为决策提供支撑,更能说服人;3、通过数据分析,可以看到决策的效果、问题以及未来应该如何做。知乎用户@绡页的答案很简单,但却一语中的:1、“知错能改,善莫大焉”——可是错在哪里,数据分析告诉你。2、“运筹帷幄之中,决胜千里之外”——怎么做好“运筹”,数据分析告诉你。3、“以往鉴来,未卜先知”——怎么发现历原创 2020-12-18 08:15:48 · 33 阅读 · 0 评论 -
2020-10-21
1、数据分析的概念数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,将他们加以汇总和理解消化,以求最大化地开发数据的功能,发挥数据的作用。2、做数据分析的原因1、有效避免拍脑袋、主观臆想;2、为决策提供支撑,更能说服人;3、通过数据分析,可以看到决策的效果、问题以及未来应该如何做。知乎用户@绡页的答案很简单,但却一语中的:1、“知错能改,善莫大焉”——可是错在哪里,数据分析告诉你。2、“运筹帷幄之中,决胜千里之外”——怎么做好“运筹”,数据分析告诉你。3、“以往鉴来,未卜先知”——怎么发现历原创 2020-12-18 08:14:57 · 37 阅读 · 0 评论 -
2020-10-21
1、数据分析的概念数据分析是指用适当的统计分析方法对收集来的大量数据进行分析,将他们加以汇总和理解消化,以求最大化地开发数据的功能,发挥数据的作用。2、做数据分析的原因1、有效避免拍脑袋、主观臆想;2、为决策提供支撑,更能说服人;3、通过数据分析,可以看到决策的效果、问题以及未来应该如何做。知乎用户@绡页的答案很简单,但却一语中的:1、“知错能改,善莫大焉”——可是错在哪里,数据分析告诉你。2、“运筹帷幄之中,决胜千里之外”——怎么做好“运筹”,数据分析告诉你。3、“以往鉴来,未卜先知”——怎么发现历原创 2020-12-18 08:14:19 · 27 阅读 · 0 评论 -
2020-10-21
大数据:1、通常大数据用来形容一个公司创造的大量非结构化和半结构化的数据2、隐态资源转化为可用资源大数据是指以多元形式,自许多来源搜集而来的庞大数据组,具有实时性。大数据产生的原因:1、获取信息越来越全面。2、海量数据的可用性。3、云计算技术的产生4、大数据时代的变革(社会变革,经济变革,个人生活方式)。(结构化数据就是数据库,非结构化数据就是所有格式的办公文档)常用的获取途径:1、系统日志采集2、互联网数据采集爬虫3、APP移动端采集4、与数据服务结构机制进行合作大数据的特征原创 2020-12-18 08:11:48 · 68 阅读 · 0 评论 -
2020-10-21
云计算的主要作用有很多对云服务的概念不是很清楚,我们在这里着重说明。当今社会我们用电脑处理文档、存储资料,通过电子邮件或U盘与他人分享信息。如果电脑硬盘坏了,我们会因为资料丢失而束手无策。而在“云计算”时代,“云”会替我们做存储和计算的工作。届时,我们只需要一台能上网的手机,一旦有需要,我们可以在任何地点用手机快速地找到我们需要的资料并处理他们。我们再也不用担心资料丢失。有人作了一个简单的描述:它足够智能,能够根据您的位置、时间、偏好等信息,实时地对您的需求做出预期。在这一全新的模式下,信息的搜索将会是原创 2020-12-17 19:42:00 · 34 阅读 · 0 评论 -
2020-10-7
云计算的主要作用云计算就是一个集中的数据中du心,供不同地zhi方的用户共享使用。不管它是三层的架构,还是资源池,或是数据中心,云计算的最终目标都是为用户提供资源共享服务。它提供了一个更简单、更廉价、更多的资源共享方式,它超越了网络资源共享阶段中需要用户自购并自己维护软件、硬件的局限性,但又紧紧地依托于网络技术,促进信息资源共享服务的进一步发展,为全球化的资源共享作出了不可替代的贡献。...原创 2020-12-17 19:37:57 · 33 阅读 · 0 评论 -
2020-9-23
云计算概述云计算就是一种提供资源的网络,使用者可以随时获取“云”上的资源,按需求量使用,并且可以看成是无限扩展的,只要按使用量付费就可以,“云”就像自来水厂一样,我们可以随时接水,并且不限量,按照自己家的用水量,付费给自来水厂就可以。从广义上说,云计算是与信息技术、软件、互联网相关的一种服务,这种计算资源共享池叫做“云”,云计算把许多计算资源集合起来,通过软件实现自动化管理,只需要很少的人参与,就能让资源被快速提供。也就是说,计算能力作为一种商品,可以在互联网上流通,就像水、电、煤气一样,可以方便地取用原创 2020-12-17 19:33:30 · 94 阅读 · 0 评论 -
2020-9-16
1、虚拟化技术。必须强调的是,虚拟化突破了时间、空间的界限,是云计算最为显著的特点,虚拟化技术包括应用虚拟和资源虚拟两种。众所周知,物理平台与应用部署的环境在空间上是没有任何联系的,正是通过虚拟平台对相应终端操作完成数据备份、迁移和扩展等。2、动态可扩展。云计算具有高效的运算能力,在原有服务器基础上增加云计算功能能够使计算速度迅速提高,最终实现动态扩展虚拟化的层次达到对应用进行扩展的目的。3、按需部署。计算机包含了许多应用、程序软件等,不同的应用对应的数据资源库不同,所以用户运行不同的应用需要较强原创 2020-12-17 19:28:47 · 131 阅读 · 0 评论