美文网首页
js浮点运算bug的解决办法

js浮点运算bug的解决办法

作者: 丶忒 | 来源:发表于2018-02-06 12:14 被阅读0次

一、事件

最近在做项目的管理费,在客户端用js写的。发现了一个重大问题,比如0.7*8.1=5.6699999999,10.3-9.2=1.100000000014.为什么会出现这些问题呢?难道是js对浮点数运算的bug?该怎么办?

二、响应

“内事不决问百度,外事不决问google”啊,上网查找资料,证实了我的想法,也找到了解决方案。同时我也有了自己的解决方案。
1、网上解决方案是对浮点数的运算做了类似重写,代码如下:(转载)

//除法函数,用来得到精确的除法结果
 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 //调用:accDiv(arg1,arg2)
 //返回值:arg1除以arg2的精确结果
function accDiv(arg1,arg2){
    var t1=0,t2=0,r1,r2;
    try{t1=arg1.toString().split(".")[1].length}catch(e){}
    try{t2=arg2.toString().split(".")[1].length}catch(e){}
    with(Math){
        r1=Number(arg1.toString().replace(".",""));
        r2=Number(arg2.toString().replace(".",""));
        return (r1/r2)*pow(10,t2-t1);
    }
}
//给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){
    return accDiv(this, arg);
};
//乘法函数,用来得到精确的乘法结果
//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
//调用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精确结果
function accMul(arg1,arg2)
{
    var m=0,s1=arg1.toString(),s2=arg2.toString();
    try{m+=s1.split(".")[1].length}catch(e){}
    try{m+=s2.split(".")[1].length}catch(e){}
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);
}
//给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){
    return accMul(arg, this);
};
//加法函数,用来得到精确的加法结果
//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
//调用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精确结果
function accAdd(arg1,arg2){
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
    m=Math.pow(10,Math.max(r1,r2));
    return (arg1*m+arg2*m)/m;
}
//给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(arg,this);
}
//减法函数
function accSub(arg1,arg2){
     var r1,r2,m,n;
     try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
     try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
     m=Math.pow(10,Math.max(r1,r2));
     //last modify by deeka
     //动态控制精度长度
     n=(r1>=r2)?r1:r2;
     return ((arg2*m-arg1*m)/m).toFixed(n);
}
///给number类增加一个sub方法,调用起来更加方便
Number.prototype.sub = function (arg){
    return accSub(arg,this);
}

这样,如果你要计算0.7*8.1 只需(0.7).mul(8.1)调用mul方法就可以得到准确的答案。

2、我的解决方案

这不失为一种好方法,然而,我想将浮点型转化为整形后再做运算也是解决的一种方法。如0.78.1,我们可以这么算(0.710)(8.110)/100,结果为5.67,显然是可以的。又通过项目的实践,都能得出准确的结果。

三、总结:

1、尽量不要用JS做复杂的运算,特别是浮点数的运算。

2、如果一定要进行浮点数的运算的话,先将浮点数转化为整形,再运算。


转载地址: http://www.cnblogs.com/jiahaipeng/archive/2008/10/29/1321821.html
附:程序员必知之浮点数运算原理详解

相关文章

  • 修复js浮点运算bug

    /** 修复js浮点运算bug*/

  • js浮点运算bug的解决办法

    一、事件 最近在做项目的管理费,在客户端用js写的。发现了一个重大问题,比如0.7*8.1=5.669999999...

  • JS浮点数运算处理

    一. 问题描述 最近在做一个项目,页面上会存在一些JS浮点数的运算,发现JS浮点数运算存在一些bug.譬如: 0...

  • JS篇

    时间戳转换为年月日核心代码 input标签只输入数字 JS运算浮点数运算会有计算bug精确两位用toFixed(2...

  • js浮点运算

    前言 在项目开发过程中发现浮点数的运算会出现精度问题,尤其是乘除运算。产生浮点数计算精度不准确的原因: 在计算机角...

  • Javascript 盲点

    1.javestript 中所有的数字都是浮点型 js在浮点数运算时会出现多位小数的不准确结果,浮点数运算的误差。...

  • js浮点数计算bug

    在js中,带小数的数据运算时可能会出现好多位小数。这是因为在js中浮点数的计算是以2进制计算的。解决办法就是先转成...

  • javascript基础2运算符和if else switch

    js运算符为加减乘除,取余,浮点运算,其中浮点运算注意并不相等。 前置递增递减和后置递增递减 比较运算符 if判断...

  • js浮点数运算问题---莫名出现多位小数

    问题:js浮点数运算问题---莫名出现多位小数 // 原因:这是由于在运算的时候先把浮点数转化成二进制后进行运算,...

  • js中计算失去精度问题

    不仅仅在js 中,其他语言中 浮点型的运算都会出现 丢失精度问题,没有遇到过的自己去实验一下 解决办法 --- d...

网友评论

      本文标题:js浮点运算bug的解决办法

      本文链接:https://www.haomeiwen.com/subject/cyvmzxtx.html