浮点数精度丢失问题详解

2021/9/22 6:10:52

本文主要是介绍浮点数精度丢失问题详解,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!

请看以下Go代码,会返回 0.7 吗?

    var num float32
    for i := 0; i < 7; i++{
        num = num + 0.1
    }

    fmt.Println(num)

答案可能出人意料,是:0.70000005

    0.70000005

也许有人会问,是不是Go语言的问题?换其他语言试试?
OK,我们换JS试试。

答案依然令人意外。
除此之外,你还可以试试C、C++、Java、PHP等其他语言的float类型相加,看得到的数据是否精确;

还有,除了语言之外,你还可以在MySQL等数据库中试试float类型数据的字段叠加,得到的数据是否精确。

我可以先告诉你答案:只要是float类型的数据相加,无论在任何语言、任何数据库、任何中间件中进行加法(减法乘除法)运算,得到的数据,都不会精确。

这是浮点类型的精度丢失现象。(Loss of significance)

要了解产生这个现象的原因,就要先了解计算机是如何定义和表示float类型的。
不同于正整数类型的表示方法,float类型在计算机中的表示略显复杂,遵循的是<



这篇关于浮点数精度丢失问题详解的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!


扫一扫关注最新编程教程