关于数据库里的值是0.05，通过dw取出来是0.049999的尾差问题

最新推荐文章于 2024-07-18 17:05:22 发布
最新推荐文章于 2024-07-18 17:05:22 发布
阅读量867 收藏
点赞数
分类专栏： PB 文章标签： pb 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wyc487/article/details/74648219
版权
博客探讨了数据库中数值0.05在读取时出现0.049999尾差的现象，分析原因并提出解决方案。
摘要由CSDN通过智能技术生成
如果数据库表里的字段属性是float，那么PB连接数据库表的时候， float会转成number，
这时候对dw取数（dw.getitemdecimal或者dw.object.iprice[row]），
会得到有尾差的数

如：
数据库的表 test 里的字段 iprice 的属性是
最低0.47元/天 解锁文章
吴半止
关注
专栏目录
p值到底是个啥？（统计）
10-17
p值到底是个啥？ 往往被大家忽视的就是p值能做什么？不能做什么？能不能代表原假设发生的概率，或者做为检验有用的确定指标？
pb中数据窗口函数小结
z2007130205的专栏
02-27 2748
一、连接数据库 连接数据库也就是指定事务对象。PowerBuilder提供了两个函数：SetTrans()和SetTransObject()。 语法格式： dw_control.SetTrans(TransactionObject) dw_control.SetTransObject(TransactionObject) 其中，dw_control是所使用的数据窗口控件，transact
PB程序优化
lwj0310的专栏
05-08 626
一、处理 SQL 语句 　　1、缓冲 SQL 语句 　　在应用程序中，有时需要反复调用同一组SQL语句，在这种情况下，可以通过在应用中为这些 SQL建立缓冲区来提高执行性能。在缺省情况下，SQL语句的缓冲区是关闭的，你可以通过如下语句打开它： 　　SQLCACHE = n 　　n 表示装入缓冲区的 SQL 语句数量（缺省为0）。 　　例如： 　　dw_1.SetTransObject(
数值修约，精确至0.05如何理解
最新发布
interestingi的博客
07-18 723
2.37，2.37×2=4.74 修约间隔0.1 为 4.7，4.7÷2=2.35，即2.37精确至0.05为2.35。举例：修约间隔0.1，0.5修约。0.1×0.5 = 0.05，即精确至0.05。修约间隔：1、0.1、0.01，即保留至个位数、十分位、百分位。0.5修约：修约间隔的0.5单位，又称半个单位修约。0.2修约：修约间隔的0.2单位，0.2个单位修约。（修约时，先转换为1修约，即一个单位的修约）进舍规则：四舍五入，四舍五入取双数。定义：对测量数值的精度的描述。内容：修约间隔，进舍规则。
powerbuilder操作excel命令大全
老熊专栏
04-11 2371
1．创建Excel对象 　　eole=CREATEOBJECT(′Excel.application′)　　2．添加新工作簿　　eole.Workbooks.add　　3．设置第3个工作表为激活工作表　　eole.Worksheets(″sheet3″).Activate　　4．打开指定工作簿　　eole.Workbooks.Open(″c:/temp/ll.xls″)
关于数据窗口中定义检索参数及retrieve()使用
tcl1981的专栏
11-14 1519
1、定义检索参数：数据窗口下，design/retrieval arguments 命令，系统弹出参数定义，如定义 name,type 分别为 ：staff_id ，string 2、where条件子句中运用检索参数 ，where staff_id = :staff_id  3、窗口中事件的定义：sting staff_idstaff_id=sle_1.text
perl-Devel-LexAlias-0.05-16.el8.aarch64.rpm
12-05
官方离线安装包，亲测可用
smalidea-0.05.zip+baksmali-2.2.5.jar+smali-2.2.5.jar
11-26
最新android studio/idea 调试 smali插件.android studio安装setting->plugins->install plugin from disk...->选择smalidea.zip所在目录(不需要解压)->安装/重启.包含了baksmali-2.2.5.jar和smali-2.2.5.jar,功能不...
smalidea-0.05.zip smalidea-0.06.zip
07-27
【标题】"smalidea-0.05.zip smalidea-0.06.zip" 涉及的是一款名为 Smalidea 的插件的两个不同版本，即0.05版和0.06版。Smalidea 是一个专为 IntelliJ IDEA 开发的插件，用于对 Android 应用程序的字节码分析和调试...
0.05.10.zip
11-27
0.05.10这样的版本号可能表明这是一个早期的开发版本，因为主版本号为0，这通常意味着软件还在积极开发和改进中。 对于压缩文件，常见的工具包括WinRAR、7-Zip和ZIP本身，它们都支持创建和解压ZIP格式的文件。ZIP是...
PB GetItemString函数详解
热门推荐
duanwenzhi00的专栏
11-16 1万+
GetItemString 函数作用：从数据窗口或者 DataStore 控件的指定缓冲区中获取指定单元的 String 类型的数 据。通过参数的设置，还可以获取指定单元的最初数据，也就是最初 Retrieve 或者最近 Update 成功之后的该单元的取值。需要注意的是，该函数获取的是被 数据窗口中字段接受的数据，是触发完 AcceptText 之后列中的数据，是通过了 校验规则的数据；当用户
PB开发笔记(6)
盐碘
07-08 3566
//如何用代码配置ODBC数据源自动创建ODBC是基于对Windows注册表的直接写操作来实现的步骤：一、创建函数：gf_create_odbc(string as_odbc_name,string as_odbc_type,string as_path)string ls_key,ls_key1ls_key    = HKEY_CURRENT_USER/Software/ODBC/ODBC.I
函数Retrieve详解
12-31 5761
函数作用：为DataWindow或者Datastore检索数据。在使用该函数之前应该执行过函数SetTransObject或者SetTrans，为数据窗口设置过事务对象。该函数执行之前，首先将数据窗口中已有的数据清除掉，然后将数据库中的数据检索到数据窗口中。所以，如果希望将检索到的数据追加到数据窗口中，需要编写程序。在数据窗口对象的RetrieveStart事件中返回2，即可防止清除掉数据窗口中的
PowerBuilder程序中取数据库中值,值异常(正数变成负数或异常)
weixin_30628077的博客
01-31 413
pb程序中得到的整形数据，如果值比较大的话，用getitemnumber（）函数取出来，会变成负数，那么将变量类型定义 为long型，可以避免此错误。 转载于:https://www.cnblogs.com/lj821022/archive/2008/01/31/1059788.html...
什么是通过了a=0.0001的统计显著性检验
06-01
通过了a=0.0001的统计显著性检验是指在进行一项统计研究时，使用了显著性水平（significance level）为0.0001的假设检验，得出的结果表明所研究的变量之间存在显著性差异。这意味着我们可以拒绝原假设（null ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值