pandas详细笔记

一:什么是Pandas

from matplotlib import pyplot
import numpy as np
import pandas as pd

arange = np.arange(1, 10, 2)
series = pd.Series(arange,index=list("ABCDE"))
print(series)

二:索引

三:切片

位置索引切片(左闭右开),标签索引切片(左闭右闭)


arange = np.arange(1, 10, 2)
series = pd.Series(arange, index=list("ABCDE"))
# print(series['A'])
# print(series.loc['A'])
print(series[0:2])
print(series.iloc[0:2])
print(series.loc['A':'C'])

四:Series的相关属性

series合并

伍:Series如何转化为DataFrame

属性和上面相关

六:如何创建DataFrame

七:Pandas如何读写文件

八:Pandas如何读读文件

九:excel写入多个表单

十:DataFrame创建多层索引

行索引

列索引

一层索引——>多层索引

十一:如何读写多层索引

十二:DataFrame如何进行数据重塑(行列转换)

转秩

长表转换

宽表转换

十三:多层索引DataFrame如何进行数据重塑(行列转换)

十四:如何进行数据合并

十五:如何进行数据融合

十六:如何进行数据筛选

字段

标签

位置数据筛选

布尔索引

query

十七:如何进行数据修改

十八:多层数据的筛选

十九:DataFrame的简单统计函数

二十:DataFrame的高级统计函数

二十一:DataFrame的相关性分析函数

二十二:多层索引的聚合计算

二十三:如何删除空数据

二十四:如何填充空数据

二十五:如何处理异常值

二十六:如何删除异常值

二十七:map函数如何通过字典转换数据

二十八:Apply函数如何进行数据转变

二十九:Apply(高级)

三十:transform函数如何进行数据转换

三十一:随机抽样

三十二:重复数据的处理

三十三:离箱操作

三十四:分组操作

三十五:分组聚合

三十六:多Excel数据的合并

案例:

将某一列转换数据格式转换

多重行索引锁定数据列

多个数据表sheet_name写入一个excel表

数据治理是确保数据准确性、可靠性、安全性、可用性和完整性的体系和框架。它定义了组织内部如何使用、存储、保护和共享数据的规则和流程。数据治理的重要性随着数字化转型的加速而日益凸显,它能够提高决策效率、增强业务竞争力、降低风险,并促进业务创新。有效的数据治理体系可以确保数据在采集、存储、处理、共享和保护等环节的合规性和有效性。 数据质量管理是数据治理中的关键环节,它涉及数据质量评估、数据清洗、标准化和监控。高质量的数据能够提升业务决策的准确性,优化业务流程,并挖掘潜在的商业价值。随着大数据和人工智能技术的发展,数据质量管理在确保数据准确性和可靠性方面的作用愈发重要。企业需要建立完善的数据质量管理和校验机制,并通过数据清洗和标准化提高数据质量。 数据安全与隐私保护是数据治理中的另一个重要领域。随着数据量的快速增长和互联网技术的迅速发展,数据安全与隐私保护面临前所未有的挑战。企业需要加强数据安全与隐私保护的法律法规和技术手段,采用数据加密、脱敏和备份恢复等技术手段,以及加强培训和教育,提高安全意识和技能水平。 数据流程管理与监控是确保数据质量、提高数据利用率、保护数据安全的重要环节。有效的数据流程管理可以确保数据流程的合规性和高效性,而实时监控则有助于及时发现并解决潜在问题。企业需要设计合理的数据流程架构,制定详细的数据管理流程规范,并运用数据审计和可视化技术手段进行监控。 数据资产管理是将数据视为组织的重要资产,通过有效的管理和利用,为组织带来经济价值。数据资产管理涵盖数据的整个生命周期,包括数据的创建、存储、处理、共享、使用和保护。它面临的挑战包括数据量的快速增长、数据类型的多样化和数据更新的迅速性。组织需要建立完善的数据管理体系,提高数据处理和分析能力,以应对这些挑战。同时,数据资产的分类与评估、共享与使用规范也是数据资产管理的重要组成部分,需要制定合理的标准和规范,确保数据共享的安全性和隐私保护,以及建立合理的利益分配和权益保障机制。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值