spl长实数和浮点数

最新推荐文章于 2024-11-16 22:34:09 发布
最新推荐文章于 2024-11-16 22:34:09 发布
阅读量304 收藏 3
点赞数 9
分类专栏： spl集算器 文章标签： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40603125/article/details/142051089
版权

前置常识

  • 从外界接受的数字，例如从数据库中查询的数据，为了保证计算过程的准确性，默认使用的类型是长实型
  • 长实型就是java中的BigCecimal，计算中没有浮点数的误差
  • 在SPL中，长实数的颜色是大红色，但是浮点类型是暗红色

遇到的问题

  • 两个有限小数相乘得到一个无限小数
  • 那么相乘的两个数中一定有一个数是有毛病，一个数是数据库取得数据，很多位，但是是有限小数
  • 另外一个是整数 / 1000 ，只有3位，也是有限小数

解决思路

  • 分别对 两个数据 使用decimal函数处理，发现 整数 / 1000 得到居然不是长实数，而是浮点数

结论

  • 外界获取的数据会默认转换为长实数
  • 程序中计算的数字，一般会是浮点数，如果要求数据的准确性，建议使用decimal函数转换

在这里插入图片描述

在这里插入图片描述

使用函数转变之后

 width_list.find([material_code_out,equip_id_out]).width / decimal(1000):width

在这里插入图片描述

当归1024
关注
专栏目录
实时音频编解码之三 多速率信号处理
shichaog的专栏
05-13 638
本文谢绝任何形式转载，谢谢。 1.4 语音信号处理 1.4.1 多速率信号处理 多速率信号处理 多速率数字信号处理和滤波器组在通讯和语音处理方面有诸多的应用，在编码器和语音增强算法里经常可以看到分析滤波器组合合成滤波器组。 对于一个时域信号，采样的点数越多，需要的存储空间就越多，在后续的滤波中计算量也越大，所以如果在信号变换缓慢的地方使用低。 1.4.1.1 几种频率的关系 频率是单位时间内完成周期性变化的次数，是描述周期运动频繁程度的量，采样频率fsfsfs等于每秒对时域信号采样的点数，由奈奎斯特定理可以
SciPy 1.12 中文文档（四十六）
龙哥盟
06-29 606
原文：docs.scipy.org/doc/scipy-1.12.0/reference/generated/scipy.special.fresnelc_zeros.html#scipy.special.fresnelc_zeros。原文：docs.scipy.org/doc/scipy-1.12.0/reference/generated/scipy.special.fresnels_zeros.html#scipy.special.fresnels_zeros。数学函数手册，包含公式、图表和数学表。
python分割数字_python – 将由字母和数字组成的字符串拆分为多个部分
weixin_39668527的博客
11-23 3043
我有一个字符串,由字符串和数字(​​整数或浮点数)的交替字符串组成,它们具有任意长度,我希望将它分成几个部分,每个部分都有最大可能的大小,这样一个部分将由一个字符串或一个(表示一个)数字的字符串.我不需要考虑特殊形式的数字,如指数,十六进制等;只是简单的浮点或整数.几个例子：>>> split("")()>>> split("p")('p',)>>> split("2")('2',)>>> spl...
python按行读取文件取消空白行_python按行读取文件 如何去掉换行符 "\n"
weixin_39881513的博客
11-22 308
原博文2018-07-10 16:30 −使用strip()函数去掉每行结束的\n 例如： 1） for line in file.readlines(): line=line.strip('\n') 2） #读取 ip地址文件 写入 ip_address 列表ip_address = [...036145相关推荐2019-11-24 11:43 −#str字符串格式化:字符串%(变...
计算机系统大作业
m0_54196701的博客
06-23 346
文章目录1. C语言的语言元素1.1 程序结构1.1.1 循序结构1.1.2 分支if语句switch语句1.1.3 循环for循环while循环do-while循环1.2 变量1.2.1 全局变量1.2.2 局部变量1.2.3 寄存器变量1.3 数据类型1.3.1 常量1.3.2 整型数1.3.3 浮点数1.3.4 数组1.3.5 指针1.3.6 引用1.3.7 结构体1.4 函数2. 汇编语言的语言元素2.1 程序结构2.1.1 整体结构2.1.2 寄存器2.1.3 寻址2.1.4 数据传送2.1.5
润乾学习
放弃很容易，坚持很难。
05-05 1137
spl集算器
Python Diary
qq_45848415的博客
06-29 302
1 Python基本语法元素 1.1 程序设计的基本方法 1.1.1 编译和解释 源代码：采用某种编程语言编写的计算机程序，人类可读 例：result = 2 + 3 目标代码：计算机可直接执行，人类不可读（专家除外） 例：11010010 00111011 编译：将源代码一次性转换成目标代码的过程 解释：将源代码逐条转换成目标代码同时逐条运行的过程 静态语言：使用编译执行的编程语言，编译器一次性生成目标代码，优化更充分，程序运行速度更快 例：C C++
汇编语言笔记（一）——汇编语言基础
翻肚鱼儿的博客
10-18 2522
汇编
PHP编程入门
农夫果园好好喝的博客
05-08 721
1 PHP简介 1.1 PHP是什么 PHP（全称 Hypertext Preprocessor，超文本预处理器的字母缩写）是一种服务器端脚本语言，它可嵌入到 HTML 中，尤其适合 WEB 开发。 一个简单的 PHP 文件示例 <html> <head> <title>Example</title> </head> <body> <p> <?php echo 'Hello Wor
SPL06-001气压计和LIS3DH加速度计的IIC驱动
05-16
SPL06-001气压计和LIS3DH加速度计的IIC驱动。IIC是hal库的IO模拟，亲测可用。不是完整工程，复制粘贴就可用。有详细注释。 SPL06好多人都说精度是0.05m，但数据手册上说的相对精度是0.5米，绝对精度接近10米。 通过...
PHP SPL使用方法和他的威力
10-26
PHP SPL（Standard PHP Library）是PHP5版本中引入的一个标准库集合，它提供了丰富的接口和类，允许开发者...在一些框架内部，如Symfony和Laravel，已经使用了SPL的很多特性，这进一步证明了SPL的实用价值和重要性。
PHP中spl_autoload_register()和__autoload()区别分析
10-25
本文将详细分析PHP中的两种自动加载方法：spl_autoload_register() 和 __autoload()，从而帮助开发者理解...对于想要提高代码可维护性和扩展性的开发者而言，掌握spl_autoload_register()的用法和原理是十分必要的。
超微X11SPL-F主板用户手册
04-01
通过以上内容的详细介绍，我们不仅了解了超微X11SPL-F主板的基本信息和主要特性，还掌握了其安装配置流程及常见问题的解决方法。这对于希望利用该主板构建高性能计算平台的用户来说，是非常宝贵的参考资源。
Servlet的生命周期
wyk的博客
11-13 1333
Servlet 的生命周期包含四个主要阶段：加载与实例化、初始化、请求处理、销毁。开发者可以在这些生命周期方法中编写初始化、请求处理和资源清理的代码，确保 Web 应用程序的正常运行。
Mybatis
庸不易的博客
11-15 653
1、定义不同：#{} 预处理：而 ${} 是直接替换2、使用不同：#{} 适用于所有类型的参数匹配；但 ${} 只适用于数值类型。3、安全性不同：#{} 性能高，并且没有安全问题；但 $ {} 存在 SQL 注入的安全问题。4、使用场景不同：当传递的是一个 SQL 关键字 的时候，只能 使用 ${}。当传递的是一个字段，总之，就是需要获取到参数类型 与 内容，只能使用 #{}。（PS：数字类型，#{} 和 ${} 都是可以使用的！5、 ${} 不能用于 模糊匹配查询；
1112--接口
kequanrrr的博客
11-12 449
interface + 接口名{ }。。。。implements 接口名{ }接口：接口中的抽象方法可以省略 abstract 关键字使用：要实现接口中的所有 抽象方法隐含三个修饰符：public+static+final2.单继承 多接口。
SpringBoot(五)
₍˄·͈༝·͈˄*₎◞ ̑̑的博客
11-13 920
Rest请求处理
【JavaSE线程知识总结】
最新发布
qq_63713328的博客
11-16 749
本章主要讲解了线程几种线程的创建方式,线程安全问题出现的场景,以及线程安全的解决方式
什么是面向对象编程？什么是面向过程编程？
m0_70208894的博客
11-15 502
不同的编程范式适用于不同的场景，选择合适的范式可以提高代码的可维护性、可读性和效率。Java 和 Go 的选择反映了不同的设计哲学，Java 更加注重封装和对象的使用，而 Go 更加简洁，强调过程和函数的使用。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值