开始大数据的学习
大数据时代中的数据
以前数据较少的时候,用mysql等关系型数据库进行管理即可,但是数据量的增大使得数据的存储和应用较为复杂,从而引出大数据时代。
数据分为三类,结构化的数据即有固定格式和有限长度的数据,使用关系型数据保存并操作。非结构化的数据即指不定长、无固定格式的数据,例如网页、语音、视频都市非结构化数据,采用列式数据库保存。半结构化数据使用XML或者HTML的格式来表述数据。
结构化数据对应的数据模型为二维表(关系型),半结构化数据对应的数据模型为树、图。结构化数据先有结构再有数据,半结构化数据先有数据再有结构。
数据的应用分为四个步骤获取数据(数据)、梳理和清洗(信息)、总结信息中的规律(知识),将知识应用于实践获取好的效果(智慧)。
数据处理
数据的处理分为以下几个步骤:
数据的收集
数据的传输
数据的存储
数据的处理和分析
对数据的检索和挖掘