VB.NET精度问题在实际应中的解决方法_程序开发

创始人

2024-06-20 00:40:09

0次

对于一个初学者来说，在使用VB.NET语言进行实际编程的时候，难免会出现一些错误。但是有些错误往往都可以在我们编程实践中通过经验的积累来获得解决办法。近日在使用VB.NET做一个无限分类，突然发现一个有关于VB.NET精度问题，现在发上园子里，看看大家有看法或者解决的办法#t#

代码如下：

以上为求2的63次方减去1的值

输出的结果为：9223372036854780000

如果没有用format 结果为：922337203685478E+18

而我一同事用C#同样的一句输出结果是：9223372036854775807

而我在用Windows自带的计算器输出的结果同C#输出的结果。这样子就郁闷了，难道真的是VB.NET精度问题吗？还是说我用错了方法？

VB.NET精度问题的解决方法：

使用ctype(math.pow(2,63)-1,long)

然后在工程，编译》》高级编译选项：在优化哪一框，“不做整数溢出检查”这个选项打上钩！OK啦~

如何允许远程连接到MySQL数... [[277004]]【51CTO.com快译】默认情况下，MySQL服务器仅侦听来自localhos...

如何利用交换机和端口设置来管理... 在网络管理中，总是有些人让管理员头疼。下面我们就将介绍一下一个网管员利用交换机以及端口设置等来进行D...

施耐德电气数据中心整体解决方案... 近日，全球能效管理专家施耐德电气正式启动大型体验活动“能效中国行——2012卡车巡展”，作为该活动的...

Windows恶意软件20年“... 在Windows的早期年代，病毒游走于系统之间，偶尔删除文件（但被删除的文件几乎都是可恢复的），并弹...

20个非常棒的扁平设计免费资源 Apple设备的平面图标PSD免费平板UI 平板UI套件24平图标Freen平板UI套件PSD径向平...

2009 IBM动态架构新动力...

通过 XML 进行内容发布

德国电信门户网站可实时显示全球... 德国电信周三推出一个门户网站，直观地实时提供其安装在全球各地的传感器网络检测到的网络攻击状况。该网站...

着眼MAC地址，解救无法享受D... 在安装了DHCP服务器的局域网环境中，每一台工作站在上网之前，都要先从DHCP服务器那里享受到地址动...

为啥国人偏爱 Mybatis，... 关于 SQL 和 ORM 的争论，永远都不会终止，我也一直在思考这个问题。昨天又跟群里的小伙伴进行...