大数据与云服务
文章平均质量分 95
云服务是基于互联网的相关服务的增加、使用和交互模式,通常涉及通过互联网来提供动态易扩展且经常是虚拟化的资源。
大数据(big data),是指无法在一定时间范围内用常规软件工具进行捕捉、管理和处理的数据集合,是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力的海量、高增长率和
小枫学IT
个人学习爱好者,多次参加多种比赛,获得不少奖励。爱好:分享、学习、编程、运动、听歌、玩转Linux。
展开
-
大数据智能综合训练编程题(Spark、RDD、Hadoop)
大数据智能综合训练编程题(Spark、RDD、Hadoop)做题准备环境准备做题前需要安装好spark环境,以及python环境,当然有个Hadoop环境更好了,环境搭建参考链接:spark环境,hadoop集群搭建知识储备熟练掌握python基础语法及编程训练熟悉spark rdd编程了解Scala基础知识题目一:全校2018级学生名单分析1、使用RDD编程的方式,找到自己的那一行信息编写spark脚本from pyspark import SparkConf, SparkCo原创 2021-07-03 02:18:16 · 1977 阅读 · 0 评论 -
spark环境,hadoop集群搭建
spark环境,hadoop集群搭建环境准备因为Ubuntu服务器在国外,可能国内访问下载速度较慢,因此可以换成阿里源,通过以下命令对源进行更换阿里源地址:http://mirrors.aliyun.com/ubuntu/dists/查看当前系统的代号lsb_release -a# 1、备份原来的源cp -ra /etc/apt/sources.list /etc/apt/sources.list.bak# 2、修改/etc/apt/sources.list文件,可将原来的内容删除或注原创 2021-07-01 22:11:24 · 665 阅读 · 0 评论 -
Jenkins自动化部署gitee项目到阿里云ECS服务器
Jenkins自动化部署gitee项目到阿里云ECS服务器环境准备搭建maven、java、git环境Jenkins安装Jenkins(网址是 https://jenkins.io/) 是一个开源项目,它是一个基于 Java 的持续集成系统。我们可以在 Jenkins 上配置持续集成的任务,让机器自动完成构建(build),集中展示集成中存在的错误,提供详细的日志文件,提醒功能,以及用图表的形式展示项目构建的趋势和稳定性。Linux安装Jenkinswget -q -O - https://pk原创 2021-06-26 23:48:55 · 1357 阅读 · 0 评论 -
云计算平台OpenStack安装常见问题
云计算平台OpenStack安装相关问题apt常用命令:# apt-get 系列=========================================apt-get update # 更新安装列表apt-get upgrade # 升级软件apt-get install software_name # 安装软件apt-get --purge remove software_name # 卸载软件及其配置 apt-get autoremove software_name # 卸载原创 2021-06-09 11:49:19 · 3000 阅读 · 0 评论 -
云应用系统开发技术考点(面试题相关)
#云应用系统开发技术考点(面试题相关)1、CAP理论概述:一个分布式系统最多只能同时满足一致性(Consistency)、可用性(Availability)和分区容错性(Partition tolerance)这三项中的两项。Consistency 一致性一致性指“all nodes see the same data at the same time”,即所有节点在同一时间的数据完全一致。一致性是因为多个数据拷贝下并发读写才有的问题,因此理解时一定要注意结合考虑多个数据拷贝下并发读写的场景。原创 2021-06-08 12:23:16 · 5357 阅读 · 0 评论