将 float 转换为 int 时如何避免浮点错误。例如以下代码打印:0.5499999999999972
当我受伤时,期望它打印0.55
。
package main
import "fmt"
func main() {
x := 100.55
fmt.Println(x - float64(int(x)))
}
Output:
0.5499999999999972
你需要了解一些东西:100.55
是一个十进制数(以十进制基数表示)。100.55
在十进制是一个有限的数字,正是这样:100.55
。
计算机通常以二进制表示形式存储数字。数字100.55
不能用有限的二进制数表示:100.55
是二进制表示的
无限1/3
数(同样不能用有限的十进制数表示的原因,它是一个无限的序列:) 0.333333333....
。
但是
Go(与任何其他语言一样)使用IEEE-754float64
标准存储类型,这是一种有限的
二进制 表示。一个值使用内存中的 64 位来描述数字,其中 53 位用于描述数字,11
位用于描述指数。 __float64
现在当你“说”这个时:
x := 100.55
这是一个简短的变量声明,它将创建一个名为的新变量x
,并从右侧表达式推断其类型,该表达式是一个浮点文字,因此按照
Go 规范x
的类型将是float64
. 浮点文字必须经过“转换”才能使用 64 位表示(由
指定的规则IEEE-754
)。并且由于100.55
需要无限位以二进制基数精确表示,因此仅使用 64 位(53
位表示数字)结果将不会(不能)完全准确100.55
(而是最接近的 IEEE-754 格式的 64 位二进制数到它),即:
x := 100.55
fmt.Printf("%.50fn", x)
100.54999999999999715782905695959925651550292968750000
所以你已经从一个不存在的数字开始100.55
。
100
你从中减去(float64(int(x))
将是准确的100.0
):
x = x - float64(int(x))
fmt.Printf("%.50fn", x)
0.54999999999999715782905695959925651550292968750000
你能为这个做什么?真的没什么。您期望的结果 ( 0.55
) 也是二进制表示的无限数,因此您不能0.55
在 type
的变量中有确切的数字float64
。
您可以做的是正常使用该数字,但是当您打印它时,将其四舍五入到您选择的小数位。最简单的是使用,
并使用包含精度fmt.Printf()
的动词指定格式字符串:%f
fmt.Printf("%.2fn", x)
结果:
0.55
另一种选择是避免使用浮点数。例如,如果您要表示美元金额,您可以将所有值“乘以”100
并将金额表示为美分
(1$*100),它是一个整数。只有当您需要将结果打印为 USD 时,您才可以打印类似
cents := 10055
fmt.Printf("%d.%d $", cents/100, cents%100)
输出:
100.55 $