js精度问题
javascript,在计算小数的运算时,会存在精度问题,这跟计算机转二进制计算有关系。可以通过如下2种方案:
1)可以通过字符串,然后parseFloat计算也是可以(toFix控制精度)。
2)写一个公共的加减乘除的方法
/** * javascript calc * * 描 述 : JS浮点计算BUG屏蔽 * 创建人 : 冷凝 * 创建日期 : 2012-12-21更新,解决触发部分BUG * */ function accDiv(arg1, arg2) { var t1 = 0, t2 = 0, t3 = 0, r1, r2; try { t1 = arg1.toString().split(".")[1].length } catch (e) { } try { t2 = arg2.toString().split(".")[1].length } catch (e) { } r1 = Number(arg1.toString().replace(".", "")) r2 = Number(arg2.toString().replace(".", "")) if (r2 == 0) return 0; var result = String(r1 / r2); try { t3 = result.toString().split(".")[1].length } catch (e) { } var index = t2 - t1 - t3; if (index < 0) { result = result.replace(".", ""); while (result.length <= Math.abs(index)) { result = '0' + result; } var start = result.substring(0, result.length + index); var end = result.substring(result.length + index, result.length); result = start + '.' + end; return Number(result); } else if (index > 0) { result = result.replace(".", ""); while (result.length <= Math.abs(index)) { result += '0'; } return Number(result); } else return Number(result.replace(".", "")); } //给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function (arg) { /// <summary> /// 除法 /// </summary> return accDiv(this, arg); } function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try { m += s1.split(".")[1].length } catch (e) { } try { m += s2.split(".")[1].length } catch (e) { } return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m) } Number.prototype.mul = function (arg) { /// <summary> /// 乘法 /// </summary> return accMul(arg, this); } function accAdd(arg1, arg2) { var r1, r2, m, c; try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 } try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)) if (c > 0) { var cm = Math.pow(10, c); if (r1 > r2) { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")) * cm; } else { arg1 = Number(arg1.toString().replace(".", "")) * cm; arg2 = Number(arg2.toString().replace(".", "")); } } else { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")); } return (arg1 + arg2) / m } Number.prototype.add = function (arg) { /// <summary> /// 加法 /// </summary> return accAdd(arg, this); }
java打运算可以通过BigDecimal(String),如下:
/** * 用来 计算保证精度的两个数的和 * * @param v1 * @param v2 * @return */ public static double add(double v1, double v2) { BigDecimal b1 = new BigDecimal(Double.toString(v1)); BigDecimal b2 = new BigDecimal(Double.toString(v2)); return b1.add(b2).doubleValue(); } /** * 用来 计算保证精度的两个数的差 * * @param v1 * @param v2 * @return */ public static double subtract(double v1, double v2) { BigDecimal b1 = new BigDecimal(Double.toString(v1)); BigDecimal b2 = new BigDecimal(Double.toString(v2)); return b1.subtract(b2).doubleValue(); } /** * 用来 计算保证精度的两个数进行除法运算 * @param v1 * @param v2 * @param len 保留的精度 * @return */ public static double div(double v1, double v2,int len) {// 进行除法运算 BigDecimal b1 = new BigDecimal(v1); BigDecimal b2 = new BigDecimal(v2); return b1.divide(b2,len,BigDecimal.ROUND_HALF_UP).doubleValue(); } /** * 用来 计算保证精度的两个数的乘积 * * @param v1 * @param v2 * @return */ public static double multiply(double v1, double v2) { BigDecimal b1 = new BigDecimal(Double.toString(v1)); BigDecimal b2 = new BigDecimal(Double.toString(v2)); return b1.multiply(b2).doubleValue(); }