救助关于vb.net的精度问题

近日在使用vb.net做一个无限分类,突然发现VB.net的一个精度问题,现在发上园子里,看看大家有看法或者解决的办法
代码如下:
None.gif String .Format( " {0:####################} " 2   ^   63   -   1 )
以上为求2的63次方减去1的值
输出的结果为: 9223372036854780000
如果没有用format 结果为:922337203685478E+18
而我一同事用C#同样的一句输出结果是: 9223372036854775807
而我在用Windows自带的计算器输出的结果同C#输出的结果。这样子就郁闷了,难道真的是VB.net的精度问题吗?还是说我用错了方法?
还请大家给指点一下~


问题已解决
解决方法:
使用ctype(math.pow(2,63)-1,long)
然后在工程,编译》》高级编译选项:在优化哪一框,“不做整数溢出检查”这个选项打上钩!OK啦~

转载于:https://www.cnblogs.com/regedit/archive/2007/11/01/946244.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值