浮点数精度丢失问题详解
2021/9/22 6:10:52
本文主要是介绍浮点数精度丢失问题详解,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
请看以下Go代码,会返回 0.7
吗?
var num float32 for i := 0; i < 7; i++{ num = num + 0.1 } fmt.Println(num)
答案可能出人意料,是:0.70000005
0.70000005
也许有人会问,是不是Go语言的问题?换其他语言试试?
OK,我们换JS试试。
答案依然令人意外。
除此之外,你还可以试试C、C++、Java、PHP等其他语言的float类型相加,看得到的数据是否精确;
还有,除了语言之外,你还可以在MySQL等数据库中试试float类型数据的字段叠加,得到的数据是否精确。
我可以先告诉你答案:只要是float类型的数据相加,无论在任何语言、任何数据库、任何中间件中进行加法(减法乘除法)运算,得到的数据,都不会精确。
这是浮点类型的精度丢失现象。(Loss of significance)
要了解产生这个现象的原因,就要先了解计算机是如何定义和表示float类型的。
不同于正整数类型的表示方法,float类型在计算机中的表示略显复杂,遵循的是<
这篇关于浮点数精度丢失问题详解的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23Springboot应用的多环境打包入门
- 2024-11-23Springboot应用的生产发布入门教程
- 2024-11-23Python编程入门指南
- 2024-11-23Java创业入门:从零开始的编程之旅
- 2024-11-23Java创业入门:新手必读的Java编程与创业指南
- 2024-11-23Java对接阿里云智能语音服务入门详解
- 2024-11-23Java对接阿里云智能语音服务入门教程
- 2024-11-23JAVA对接阿里云智能语音服务入门教程
- 2024-11-23Java副业入门:初学者的简单教程
- 2024-11-23JAVA副业入门:初学者的实战指南