热门标签
更多>
搜索结果
查询Tags标签: BigDemical,共有 2条记录-
Java关于Double计算精度误差问题,以及BigDemical的使用方法
工作中出现的问题与BigDemical介绍 工作中有个需求要求写业绩报表,在编写完测试的时候,在java后端出现了精度丢失的问题,经过DEBUG之后发现是Float精度丢失 在查阅网上资料之后,得出以下结论: float和double只能用来做科学计算或者是工程计算,在商业计算中我们要用 …
2022/8/9 1:25:29 人评论 次浏览 -
BigDemical add 源码分析
BigDecimal 实现精度运算的本质是,将小数转为去除小数点后的整数 + 小数点所在的位置 再进行相关整数运算,最后根据计算出来的整数跟小数点位置,加上小数点,进行返回 22.33 -> (2233, 2) 0.4 -> (4, 1) -> (40, 2) 22.33 + 0.4 = (2233, 2) + (40, 2) = (2…
2022/3/10 12:14:39 人评论 次浏览