小小数据分析师的踩坑贴 | SQL除法计算错误,40/42 = 0 ?

《小小数据分析师的踩坑贴》系列 积累、总结自己工作日常中踩过的坑,希望以后不再遇到~ 🌟

➡️ 今天是SQL中除法运算错误的一个案例,为什么 40/42 = 0 ?

❤️ 如果我的总结对你有帮助,请点赞👍支持哦,谢谢!!
欢迎留言交流~~ 一起进步 💦

❤️ 「更多我的踩坑贴」
小小数据分析师的踩坑贴 | 文章集合


一、背景:

python调包sqlite,运行sql脚本。
发现,除法运算错误,比如40/42 = 0(箭头指的那一行)。
而且有的行正确,有的行错误(红色方框圈出来的0,都是错误的)。

🌰 Example(非真实数据,仅用于示例)
计算逻辑:sleeptime_pct = sleep_time/ duration。

  • 输出结果
    在这里插入图片描述

  • 对应的代码逻辑 在这里插入图片描述

二、解决方案:

改为浮点型数据 ❗️再做除法运算,就正确了。

  • 修改SQL代码:用cast 强制转float类型
    在这里插入图片描述
  • 输出结果就正确了:40/42 = 0.9756

三、出错原因分析

1、出错的地方在SQL脚本里,python 只是调包呈现SQL运行后的结果。
-》 所以,我们应该修改的是SQL脚本,而不是python脚本。

2、有的行数出错,有的又是对的。仔细发现,出错的那些行数,都是int/int 数据类型。
-》定位到数据类型可能是导致问题的原因。
在这里插入图片描述

3、出错原因:
Int / Int - > 得到的类型就是int - > 向下取整就变成 0了。

而int/float 得到的是float,所以其他行正确。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值