参见英文答案 > Is floating point math broken? 28个
> Why do simple math operations on floating point return unexpected (inaccurate) results in VB.Net and Python? 4个
我刚开始学习python,我偶然发现了一个特殊性
python版本：
Python 2.7.2 (default,Jul 20 2011,02:32:18) [GCC 4.2.1 (LLVM,
Emscripten 1.5,Empythoned)] on linux2
上：http://repl.it/languages/Python
使用解释器分配：
pi = 3.141 // 3 places decimal precision
#typing pi & pressing return puts 3.141
type(pi)
=> 好的浮点精度因为不精确而臭名昭着;
但为什么只有4点精度得到那个“尾巴”呢？
也：
pi2 = 3.1415100000000002
pi == pi2 # pi was assigned 3.1415
=> True
print(pi2)
3.14151 # Where's my precision?
最佳答案
整数和浮点数被赋予一定的位数.对于整数,每个位对应于2的幂.第一个数字是20,然后是21,22,依此类推.所以要存储整数5,我们有20 22 = 1 4.
原文链接：https://www.f2er.com/python/439577.html对于浮点数,我们将它们分为两部分.指数和小数.如果我们的小数为.75且指数为2,我们的确为.75 * 102 = 7.5.小数存储为2的负幂.所以我们有2-1,2-2. 2-3.等等于.5,.25,.125等.
有些数字是不可能存储的,因为它们确实需要无限位来表示,如0.1,而其他像3.1415这样需要比cpu提供的浮点数更多的位数(24是32位浮点数的标准,但算法不同).
比较浮点数的正确方法是定义方差,并沿着这些线使用某些东西.
variance = .0001
floatsEqual = lambda f1,f2: f1 - variance <= f2 and f1 + variance >= f2
if (floatsEqual(3.1415,3.1415 + 1 - 1)):
pass
在Python中,十进制库也很有用.