浮点数精度丢失问题详解
2021/9/22 6:10:52
本文主要是介绍浮点数精度丢失问题详解,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
请看以下Go代码,会返回 0.7
吗?
var num float32 for i := 0; i < 7; i++{ num = num + 0.1 } fmt.Println(num)
答案可能出人意料,是:0.70000005
0.70000005
也许有人会问,是不是Go语言的问题?换其他语言试试?
OK,我们换JS试试。
答案依然令人意外。
除此之外,你还可以试试C、C++、Java、PHP等其他语言的float类型相加,看得到的数据是否精确;
还有,除了语言之外,你还可以在MySQL等数据库中试试float类型数据的字段叠加,得到的数据是否精确。
我可以先告诉你答案:只要是float类型的数据相加,无论在任何语言、任何数据库、任何中间件中进行加法(减法乘除法)运算,得到的数据,都不会精确。
这是浮点类型的精度丢失现象。(Loss of significance)
要了解产生这个现象的原因,就要先了解计算机是如何定义和表示float类型的。
不同于正整数类型的表示方法,float类型在计算机中的表示略显复杂,遵循的是<
这篇关于浮点数精度丢失问题详解的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-06-26结对编程到底难不难?答案在这里
- 2024-06-19《2023版Java工程师》课程升级公告
- 2024-06-15matplotlib作图不显示3D图,怎么办?
- 2024-06-1503-Loki 日志监控
- 2024-06-1504-让LLM理解知识 -Prompt
- 2024-06-05做软件测试需要懂代码吗?
- 2024-06-0514-ShardingSphere的分布式主键实现
- 2024-06-03为什么以及如何要进行架构设计权衡?
- 2024-05-31全网首发第二弹!软考2024年5月《软件设计师》真题+解析+答案!(11-20题)
- 2024-05-31全网首发!软考2024年5月《软件设计师》真题+解析+答案!(21-30题)