大数据导论
1.大数据的概念
大数据概念: bigdata(大数据),无法用常规软件处理的数据集合,这时候就需要一种新的方式去处理,这种就是大数据
大数据解决的问题:海量数据的存储 海量数据的迁移 海量数据的运算
大数据的应用场景:为生活赋能/大数据人工智能时代/数字化时代还有其他许许多多的其他地方
2.数据单位
3.大数据的特点:
数据体量大
信息种类来源多样化
低价值密度
增长速度快,处理速度快,获取速度快
结果准确,可以信赖的
大数据的分析步骤:
明确分析的目的和思路: 把分析目的分解成若干个不同的分析要点,确保分析框架的体系化和逻辑性
数据收集:一般数据来源为数据库、第三方数据统计工具、专业的调研机构的统计年鉴或报告、市场调查
数据处理:(E抽取T转换L加载)数据处理主要包括数据清洗、数据转化、数据提取、数据计算等,将原始数据加工成为分析需要的直观数据
数据分析:数据分析是指用适当的分析方法及工具,分析处理过的数据,提取有价值的信息的过程
数据可视化: 一般能用图说明问题的就不用表格,能用表格说明问题的就不要用文字。
撰写报告: 数据分析报告其实是对整个数据分析过程的一个总结与呈现。用于决策者参考做出决策
4.计算机组成
计算机组成: 硬件和软件
硬件: 冯诺依曼体系结构(输入设备,输出设备,运算器,控制器,内外存储器)
软件: 系统软件和应用软件
系统软件作用: 承上启下: 硬件和应用软件的桥梁
5.编程语言
什么事编程语言?
编程语言: 人和计算机交互一种语言 编程语言历史: 低级语言 -> 高级语言 -> 面向对象时代(java和python) 注意: sql是一种特殊的编程语言