delphi – 为什么RoundTo的结果(87.285,-2)=> 87.28

前端之家收集整理的这篇文章主要介绍了delphi – 为什么RoundTo的结果(87.285,-2)=> 87.28前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。
我预计结果将是87.29。我也尝试过SimpleRoundTo,但产生相同的结果。

在帮助中也有一个“奇怪”的例子:
MS-帮助://embarcadero.rs2010/vcl/Math.RoundTo.html

RoundTo(1.235,-2) => 1.24
RoundTo(1.245,-2) => 1.24 //???

有人知道我需要得到87.29的结果吗?我的意思是:如果最后一个数字> = 5向上舍入, 5回合。正如学校所教的:)

我使用Delphi2010和SetRoundMode(rmNearest)。我也试过rmTruncate。
值87.285存储在双变量中。

也怪:

SimpleRoundTo(87.285,-2) => 87.29

x := 87.285; //double
SimpleRoundTo(x,-2) => 87.28

解决方法

87.285不完全可表示,最近的双倍略小。

经典的浮点参考是What Every Computer Scientist Should Know About Floating-
Point Arithmetic

对于基于货币的计算,如果确实是这样,您应该使用基数10数字类型而不是基数2浮点数。在Delphi中,即货币。

原文链接:https://www.f2er.com/delphi/103385.html

猜你在找的Delphi相关文章