• js加减乘除丢失精度问题解决方法


    问题:js运算中经常导致小数精度丢失,如 0.1 + 0.2 => 0.30000000000000004,通过以下方法可以解决该问题。

    /**
     * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
     *
     * @param num1加数1 | num2加数2
     */
    export function numAdd(num1, num2) {
      let baseNum, baseNum1, baseNum2
      try {
        baseNum1 = num1.toString().split('.')[1].length
      } catch (e) {
        baseNum1 = 0
      }
      try {
        baseNum2 = num2.toString().split('.')[1].length
      } catch (e) {
        baseNum2 = 0
      }
      baseNum = Math.pow(10, Math.max(baseNum1, baseNum2))
      return (num1 * baseNum + num2 * baseNum) / baseNum
    }
    /**
     * 减法运算,避免数据相减小数点后产生多位数和计算精度损失。
     *
     * @param num1被减数 | num2减数
     */
    export function numSubtr(num1, num2) {
      let baseNum, baseNum1, baseNum2
      try {
        baseNum1 = num1.toString().split('.')[1].length
      } catch (e) {
        baseNum1 = 0
      }
      try {
        baseNum2 = num2.toString().split('.')[1].length
      } catch (e) {
        baseNum2 = 0
      }
      baseNum = Math.pow(10, Math.max(baseNum1, baseNum2))
      // 动态控制精度长度
      const n = baseNum1 >= baseNum2 ? baseNum1 : baseNum2
      return Number(
        ((num1 * baseNum - num2 * baseNum) / baseNum)
        .toFixed(n)
      )
    }
    /**
     * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
     *
     * @param num1被乘数 | num2乘数
     */
    export function numMulti(num1, num2) {
      let baseNum = 0
      try {
        baseNum += num1.toString().split('.')[1].length
      } catch (e) {}
      try {
        baseNum += num2.toString().split('.')[1].length
      } catch (e) {}
      return (
        (Number(num1.toString().replace('.', '')) *
          Number(num2.toString().replace('.', ''))) /
        Math.pow(10, baseNum)
      )
    }
    /**
     * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
     *
     * @param num1被除数 | num2除数
     */
    export function numDiv(num1, num2) {
      let baseNum1 = 0,
        baseNum2 = 0
      let baseNum3, baseNum4
      try {
        baseNum1 = num1.toString().split('.')[1].length
      } catch (e) {
        baseNum1 = 0
      }
      try {
        baseNum2 = num2.toString().split('.')[1].length
      } catch (e) {
        baseNum2 = 0
      }
      baseNum3 = Number(num1.toString().replace('.', ''))
      baseNum4 = Number(num2.toString().replace('.', ''))
      return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1)
    }
    

    参考1:js加减乘除丢失精度问题解决方法
    参考1:js加减乘除运算(避免精度丢失)

  • 相关阅读:
    vue_组件化开发
    C++ / C# 访问网络共享文件夹
    PetaLinux 设置操作系统内存
    linux 不用./ 直接执行程序
    Visual Studio Code 开发环境搭建 —— C# 扩展插件
    Visual Studio Code 调试项目时传参
    PetaLinux 安装
    Ubuntu 报 "xxx is not in the sudoers file.This incident will be reported" 错误解决方法
    常用 Linux 命令
    搭建 Git 服务器(Ubuntu 系统)
  • 原文地址:https://www.cnblogs.com/unlockth/p/15156924.html
Copyright © 2020-2023  润新知