浮点精度 加减乘除 原生方法
2021/12/18 23:23:55
本文主要是介绍浮点精度 加减乘除 原生方法,对大家解决编程问题具有一定的参考价值,需要的程序猿们随着小编来一起学习吧!
关于JavaScript
二进制精度问题,浮点数的计算精度会存在缺失问题。
专门去百度了一下解决方案,发现有的不是很全,再不就是在项目里面使用会报错(不支持with用法)等等问题。所以针对这四个方法 自己 写了一下。
一般我们是放在utils或者commonJS;或者基于这四个再封装成一个函数进行调用;
加法函数:
/** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ export function accAdd(arg1, arg2) { let r1, r2, m, n; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)) { r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { m = r1.split('.')[1].length; } else { m = 0 } if(r2.indexOf('.') !=-1) { n = r2.split('.')[1].length; } else { n = 0 } m = Math.pow(10, Math.max(m, n)) return (arg1 * m + arg2 * m) / m }
减法函数:
/** ** 减法函数,用来得到精确的减法结果 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。 ** 调用:accSub(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ export function accSub(arg1, arg2) { let r1, r2, m, n, t1, t2; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { t1 = r1.split('.')[1].length; } else { t1 = 0 } if(r2.indexOf('.') !=-1) { t2 = r2.split('.')[1].length; } else { t2 = 0 } m = Math.pow(10, Math.max(t1, t2)); n = t1 >= t2 ? t1 : t2; return ((arg1 * m - arg2 * m) / m).toFixed(n); }
乘法函数:
/** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/ export function accMul(arg1, arg2) { let r1, r2; let m = 0 let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } m += r1.split('.')[1] ? r1.split('.')[1].length : 0; m += r2.split('.')[1] ? r2.split('.')[1].length : 0; return (Number(r1.replace('.', '')) * Number(r2.replace('.', ''))) / Math.pow(10, m) }
除法函数:
/** ** 除法函数,用来得到精确的除法结果 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accDiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/ export function accDiv(arg1, arg2) { let r1, r2, m1, m2, t1, t2; let reg = /^\d+$|^\d+[.]?\d+$/; if(reg.test(arg1) && reg.test(arg2)){ r1 = arg1.toString(); r2 = arg2.toString(); } else { return false //请输入数字 } if(r1.indexOf('.') !=-1) { m1 = r1.split('.')[1].length } else { m1 =0 } if(r2.indexOf('.') !=-1) { m2 = r2.split('.')[1].length } else { m2 = 0 } t1 = Number(r1.replace('.', '')) t2 = Number(r2.replace('.', '')) return (t1 / t2) * Math.pow(10, m2 - m1) }
^-^ (if else 可能有点多,便于理解。)
这篇关于浮点精度 加减乘除 原生方法的文章就介绍到这儿,希望我们推荐的文章对大家有所帮助,也希望大家多多支持为之网!
- 2024-11-23Springboot应用的多环境打包入门
- 2024-11-23Springboot应用的生产发布入门教程
- 2024-11-23Python编程入门指南
- 2024-11-23Java创业入门:从零开始的编程之旅
- 2024-11-23Java创业入门:新手必读的Java编程与创业指南
- 2024-11-23Java对接阿里云智能语音服务入门详解
- 2024-11-23Java对接阿里云智能语音服务入门教程
- 2024-11-23JAVA对接阿里云智能语音服务入门教程
- 2024-11-23Java副业入门:初学者的简单教程
- 2024-11-23JAVA副业入门:初学者的实战指南