美文网首页
js数学计算出现精度

js数学计算出现精度

作者: MrHong_bfea | 来源:发表于2020-11-08 08:47 被阅读0次

之前在做商品计算折扣问题的时候,发现简单的数学乘除法会出现精度的问题,比如本来算出来应该是0.3的,但结果是0.2999999999999999。
那么接下来就来看看如何解决吧!

在vue里引入mathjs

npm install mathjs

然后封装一下mathjs的加减乘除法,将他们暴露出去就可以直接使用了,新建个Math.js的文件

const math = require('mathjs')
// 加法
function add(a, b) {
  return math.format(math.add(math.bignumber(a), math.bignumber(b)))
}

// 减法
function subtract(a, b) {
  return math.format(math.subtract(math.bignumber(a), math.bignumber(b)))
}

// 乘法
function multiply(a, b) {
  return math.format(math.multiply(math.bignumber(a), math.bignumber(b)))
}

// 除法
function divide(a, b) {
  return math.format(math.divide(math.bignumber(a), math.bignumber(b)))
}

module.exports = {
  add,
  subtract,
  multiply,
  divide
}

在需要的地方里引入该文件即可使用

相关文章

  • js数学计算出现精度

    之前在做商品计算折扣问题的时候,发现简单的数学乘除法会出现精度的问题,比如本来算出来应该是0.3的,但结果是0.2...

  • decimal.js的简单封装

    js的计算有精度问题,在业务处理中总是会出现莫名其妙的数据,在这里我们使用decimal.js解决计算精度问题。然...

  • JS数学计算精度修正

    问题描述 如果我问你,4330.61乘以100等于多少,我猜你肯定跟我说:“肯定是 433061”啊!是啊,要我我...

  • js精度计算

    引发问题 使用 Big.jsBig文档 加 减 乘 除 取余

  • js精度计算

    在新公司的第一个项目是区块链相关的管理后台和交易所,其中就涉及了很多的计算问题。而JavaScript因为存在计算...

  • js精度问题

    关于js浮点数计算精度不准确问题的解决办法 今天在计算商品价格的时候再次遇到js浮点数计算出现误差的问题,以前就一...

  • JAVA/JS 精度丢失问题

    在JAVA和JS浮点型数值直接计算中,经常会出现一些精度丢失的情况。 JAVA和JS采用的是IEEE 754规范,...

  • 备忘

    1、js中解决数字计算精度问题,math.js bignumber. math.js https://blog.c...

  • js计算丢失精度

    版权声明:本文为CSDN博主「Black毒药」的原创文章,遵循CC 4.0 by-sa版权协议,转载请附上原文出处...

  • js浮点数精度计算问题

    前言 项目中,总是不可避免会出现js的浮点数精度计算问题。抛出经典问题:为什么0.1===0.1,0.1+0.2!...

网友评论

      本文标题:js数学计算出现精度

      本文链接:https://www.haomeiwen.com/subject/tdicbktx.html