python处理excel文件-使用Python进行Excel文件处理

本章节选自本人著《Python Basic Tutorial》第十五章

15. Excel文件处理

15.1 引言

数据处理是Python的一大应用场景,正如我在本书之前所反复强调的,基于Python活跃及强大的社区,使得Python可以很灵活地处理各种问题。其中,不可置否,Excel是当下最流行的数据处理软件,而且Python对其的操作也已经拥有大量的第三方库,这也是非常吸引非计算机行业从事者去使用Python的原因之一。 其中,最常见的有以下几种:

考虑到大家可能是第一次接触Python下的Excel处理,由于各自面对的问题或处理方式可能是不一而同的,因此在本书有限的篇幅里可能无法给出直接的案例来概括所有可能要使用的操作。相较而言,xlutils(为书写方便,剩余篇幅使用xlutils来代替xlutils+xlrd+xlwt)是使用率最高的库,因此,如果你遇到的问题无法在本书之中寻求到解决方案,你可以很轻松地通过搜索引擎来获得帮助,所以我们也将其作为教学用例向大家介绍Python下的Excel处理艺术。

15.2 安装

安装并不复杂,只是你要按xlrd,xlwt,xlutils的顺序依次安装过去,这三个库没有被集中地放在一个包里一直为人所诟病。

15.3 读取操作

用以上方法就可以对xls文件进行读取,需要注意的是,直接使用xlrd.openworkbook()进行读取完后还没有结束,因为大家在使用Excel的时候,可能会看到左下角不止一张sheet,因此你还需要使用book.sheetby_index()来使用索引作参数来读取你想要的sheet,而索引是从0而不是从1开始的。或者你可以使用以下方法将所有的sheet全部读入到一个list里:

在读取中,xlrd.sheet.Sheet类型常用到的成员方法或属性有:

15.4 写入操作

注意,写入只能是重新创建一个文件,而不能在已有的文件上作写入操作,至于修改已有文件的方法,会在后文中讲到,所以不要着急,先来看下面的代码:

在写入中,xlwt.Worksheet.Worksheet类型常用到的成员方法或属性有:

15.5 修改操作

尽管xlutils已经奇葩到这种程度了,但我依旧推荐大家在入门时去使用它来处理你的Excel数据。修改文件的通常做法是,读取出文件,复制一份数据,对其进行修改,再保存。 在复制时,需要用到 xlutils 中的copy方法:

如果你想要批量地处理数据,也很简单,记得我们还可以获取行数和列数吗,或者获取一整列或一整行的内容,你就可以对其进行一个遍历,或者是做成一个二维list,这就要考验你list的基本功了。

但有时候我们会注意到在使用copy时,其中字体,文字大小等不会被拷贝,你可以将参数设置如下:

然后在写入的时候将style作为第四个参数写入即可:

15.6 一些细节处理

15.6.1 日期转换

例如我有如下的Excel数据:

我们队出生年月这一栏的数据读取时,会发现读到的会变成浮点数,即它将/当做了除号,进行了运算,真是哭笑不得。 因此处理起来免不了要费一些功夫。首先,我们可以使用以下方法将日期以一个tuple的形式保存下来。

这里还有个题外话,就是我们还可以获取到单元格里数据的类型。 python读取excel中单元格的内容返回的有5种类型,以成员变量ctype的形式存储在sheet.cell里: ctype : 0 empty,1 string, 2 number, 3 date, 4 boolean, 5 error 因此,如果遇到数据类型读入不确定的情况,你可以做一个判断,然后再根据具体情况来做出应对方法。

15.6.2 单元格合并问题

当sheet中存在合并单元格的时候,只有第一个小单元格能读到数据,其他被合并的单元格都是为空的,这个是我觉得这个包功能不完善的地方,如果是合并的单元格那么应该合并的单元格的内容一样。 这样的话,有人会说,读的时候读第一个单元格,后面如果检查到类型是空的话,不管不就好了吗? 疑问又来了,合并单元格可能出现空值,但是表格本身的普通单元格也可能是空值,要怎么获取单元格所谓的"第一个行或列的索引"呢?

这就要先知道哪些是单元格是被合并的! 读取文件的时候需要将formatting_info参数设置为True,默认是False,所以上面获取合并的单元格数组为空,

mergedcells返回的这四个参数的含义是:(row,rowrange,col,colrange),其中[row,rowrange)包括row,不包括rowrange,col也是一样,即(1, 3, 4, 5)的含义是:第1到2行(不包括3)合并,(7, 8, 2, 5)的含义是:第2到4列合并。 聪明的同学很快就会注意到了,只要取第一个和第三个参数不就行了吗?是的,获取mergecells返回的row和col低位的索引即可!这样的话,合并单元格问题也能得到很好的解决。

15.6.3 结语

对于Python在Excel上的处理的介绍就到此结束,尽管xlutils有种种弊病,但细心研究可以发现,这并不是什么大问题,都可以使用一些trick进行解决,因此,在处理数据的时候,如果一个工具不太好用,不用急着去替换他,而是想一下是不是可以通过自己额外的编程手段去解决它,这样既可以达成你的目的,又可以提高自己的编程思维与编程技巧。 学有余力的同学,可以查阅我在本篇开头所介绍的其他几款工具包,通过对比,一定可以找到适合你遇到的问题的那一个。

本书目录如下:

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
1 目标检测的定义 目标检测(Object Detection)的任务是找出图像中所有感兴趣的目标(物体),确定它们的类别和位置,是计算机视觉领域的核心问题之一。由于各类物体有不同的外观、形状和姿态,加上成像时光照、遮挡等因素的干扰,目标检测一直是计算机视觉领域最具有挑战性的问题。 目标检测任务可分为两个关键的子任务,目标定位和目标分类。首先检测图像中目标的位置(目标定位),然后给出每个目标的具体类别(目标分类)。输出结果是一个边界框(称为Bounding-box,一般形式为(x1,y1,x2,y2),表示框的左上角坐标和右下角坐标),一个置信度分数(Confidence Score),表示边界框中是否包含检测对象的概率和各个类别的概率(首先得到类别概率,经过Softmax可得到类别标签)。 1.1 Two stage方法 目前主流的基于深度学习的目标检测算法主要分为两类:Two stage和One stage。Two stage方法将目标检测过程分为两个阶段。第一个阶段是 Region Proposal 生成阶段,主要用于生成潜在的目标候选框(Bounding-box proposals)。这个阶段通常使用卷积神经网络(CNN)从输入图像中提取特征,然后通过一些技巧(如选择性搜索)来生成候选框。第二个阶段是分类和位置精修阶段,将第一个阶段生成的候选框输入到另一个 CNN 中进行分类,并根据分类结果对候选框的位置进行微调。Two stage 方法的优点是准确度较高,缺点是速度相对较慢。 常见Tow stage目标检测算法有:R-CNN系列、SPPNet等。 1.2 One stage方法 One stage方法直接利用模型提取特征值,并利用这些特征值进行目标的分类和定位,不需要生成Region Proposal。这种方法的优点是速度快,因为省略了Region Proposal生成的过程。One stage方法的缺点是准确度相对较低,因为它没有对潜在的目标进行预先筛选。 常见的One stage目标检测算法有:YOLO系列、SSD系列和RetinaNet等。 2 常见名词解释 2.1 NMS(Non-Maximum Suppression) 目标检测模型一般会给出目标的多个预测边界框,对成百上千的预测边界框都进行调整肯定是不可行的,需要对这些结果先进行一个大体的挑选。NMS称为非极大值抑制,作用是从众多预测边界框中挑选出最具代表性的结果,这样可以加快算法效率,其主要流程如下: 设定一个置信度分数阈值,将置信度分数小于阈值的直接过滤掉 将剩下框的置信度分数从大到小排序,选中值最大的框 遍历其余的框,如果和当前框的重叠面积(IOU)大于设定的阈值(一般为0.7),就将框删除(超过设定阈值,认为两个框的里面的物体属于同一个类别) 从未处理的框中继续选一个置信度分数最大的,重复上述过程,直至所有框处理完毕 2.2 IoU(Intersection over Union) 定义了两个边界框的重叠度,当预测边界框和真实边界框差异很小时,或重叠度很大时,表示模型产生的预测边界框很准确。边界框A、B的IOU计算公式为: 2.3 mAP(mean Average Precision) mAP即均值平均精度,是评估目标检测模型效果的最重要指标,这个值介于0到1之间,且越大越好。mAP是AP(Average Precision)的平均值,那么首先需要了解AP的概念。想要了解AP的概念,还要首先了解目标检测中Precision和Recall的概念。 首先我们设置置信度阈值(Confidence Threshold)和IoU阈值(一般设置为0.5,也会衡量0.75以及0.9的mAP值): 当一个预测边界框被认为是True Positive(TP)时,需要同时满足下面三个条件: Confidence Score > Confidence Threshold 预测类别匹配真实值(Ground truth)的类别 预测边界框的IoU大于设定的IoU阈值 不满足条件2或条件3,则认为是False Positive(FP)。当对应同一个真值有多个预测结果时,只有最高置信度分数的预测结果被认为是True Positive,其余被认为是False Positive。 Precision和Recall的概念如下图所示: Precision表示TP与预测边界框数量的比值 Recall表示TP与真实边界框数量的比值 改变不同的置信度阈值,可以获得多组Precision和Recall,Recall放X轴,Precision放Y轴,可以画出一个Precision-Recall曲线,简称P-R
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值