编程基础回顾:有关取精度,ToString和Math.Round
创始人
2024-04-24 13:30:48
0

前段时间做了一个关于Multiple Currency的项目。其中遇到了一些关于精度的问题。
现在我就把其中学到的东西share一下。


举一个例子:
在项目中。所有的item的price 是基于美元的。但是这个item的vendor又是属于Canada,要给加元,那么在计算amount的时候需要将price * count ,再将结果根据汇率转换成加元, 再取两位小数。
例如:$1.45(Price) * 11(Count) = 15.95(Amount)    * 1.2222222222(Exchange Rate)  = 16.56567395 (Amount)
最后 16.56567395 就是我们需要付的money。现在问题来了,再将16.56567395加元换回美元。。。呵呵。偏差就出现了。

这里就有人提出了关于取精度的问题,
我所知道的有两种:四舍五入,四舍六入五成双。不知道大家有没有试过.net中自带的ToString与数字格式字符串。它所适用的就是四舍五入的方式来取整。但是它有一个弊病。如果多次进行转换。数值会偏高。不平衡。
.net中还有一中方式就是Math.Round来取精度。 支持以上所说的两种机制。
MidpointRounding.ToEven 四舍六入五成双
MidpointRounding.AwayFromZero四舍五入
当然最终解决方案是MidpointRounding.ToEven.

什么叫四舍六入五成双??为什么用呢。四舍六入是一样的,五成双的意思就是,如果前面一个为偶数就忽略。为奇数就进一位,欧洲银行全采用这个算法,这样可以减少偏差

总结:
ToString默认采用四舍五入取精度,
Math.Round 可以选择取精度方式.

也许你们会提出为什么不从新计算一次Amount,就不用讲加元换成美元呢。。。呵呵。  业务复杂。改动风险大.
这里只是帮助大家回忆一下这次差不多遗忘的东西。只是share.放到首页也是冒着被拍砖的风险

【编辑推荐】

  1. 用纯Java代码调用JavaFX的功能
  2. 关于能提高Java代码可重用性的三个措施
  3. 用EXT模拟面向对象的java代码
  4. Java代码的静态编译和动态编译中的问题比较
  5. 提高Java代码重用性的三个方法

相关内容

热门资讯

如何允许远程连接到MySQL数... [[277004]]【51CTO.com快译】默认情况下,MySQL服务器仅侦听来自localhos...
如何利用交换机和端口设置来管理... 在网络管理中,总是有些人让管理员头疼。下面我们就将介绍一下一个网管员利用交换机以及端口设置等来进行D...
施耐德电气数据中心整体解决方案... 近日,全球能效管理专家施耐德电气正式启动大型体验活动“能效中国行——2012卡车巡展”,作为该活动的...
Windows恶意软件20年“... 在Windows的早期年代,病毒游走于系统之间,偶尔删除文件(但被删除的文件几乎都是可恢复的),并弹...
20个非常棒的扁平设计免费资源 Apple设备的平面图标PSD免费平板UI 平板UI套件24平图标Freen平板UI套件PSD径向平...
德国电信门户网站可实时显示全球... 德国电信周三推出一个门户网站,直观地实时提供其安装在全球各地的传感器网络检测到的网络攻击状况。该网站...
着眼MAC地址,解救无法享受D... 在安装了DHCP服务器的局域网环境中,每一台工作站在上网之前,都要先从DHCP服务器那里享受到地址动...
为啥国人偏爱 Mybatis,... 关于 SQL 和 ORM 的争论,永远都不会终止,我也一直在思考这个问题。昨天又跟群里的小伙伴进行...