美文网首页
解决浮点型数值计算精度丢失的一种实现

解决浮点型数值计算精度丢失的一种实现

作者: 一只yami | 来源:发表于2020-10-28 14:31 被阅读0次

    一种开发时浮点型数值计算精度丢失的解决方案
    一般的方法都是乘以10的倍数转为整数,计算后再除以扩大的10的倍数

    实现思路:
    1.包装一个类拥有原数值,转换后的整数以及10的倍数
    2.传入一个数字进行初始化
    3.编写四则运算函数,每次运算把运算后的结果,结果的整数以及10的倍数保存起来,并返回此对象用于流式计算

    关键点:
    加减因为是乘以公共项,所以结果除以公共项即可
    乘法扩大时,要选定一个点,比如0.2X0.001 选定10的3次方作为扩大的项,等于乘了两次,所以结果需要处理 10的n次方的平方

    ((0.2 * 1000) X (0.001 * 1000))/ (1000 * 1000)
    

    除法同项相消,不用对结果进行运算,但是如果结果不是整数,需要转为整数并求出10的次方数,以便流式计算

    以js为例,其他语言同理
    没有处理无效值(空,非数字等)以及没有控制除不尽时的精度
    未对四则运算进行覆盖测试,仅提供思路

    class FNumber {
        val//原始的值
        #FLOATVAL = 0;//私有属性
        #FPOW = 0;;//变成整数的位数(任何数次方0都为1)
        constructor(val) {
            this.val = val
            let fArray = this.#isFloat(val)
            this.#FLOATVAL = fArray[ 0 ]
            this.#FPOW = fArray[ 1 ]
        }
        add (num) {
            let fnum = this.#COMPAREPOW(num)
            let result = this.#FLOATVAL + fnum
            this.#FLOATVAL = result
            this.val = result / Math.pow(10, this.#FPOW)
            return this
        }
        subtract (num) {
            let fnum = this.#COMPAREPOW(num)
            let result = this.#FLOATVAL - fnum
            this.#FLOATVAL = result
            this.val = result / Math.pow(10, this.#FPOW)
            return this
        }
        multiply (num) {
            let fnum = this.#COMPAREPOW(num)
            let result = this.#FLOATVAL * fnum
            this.#FLOATVAL = result
            let fpow = Math.pow(10, this.#FPOW)
            this.val = result / Math.pow(fpow, 2)
            this.#FPOW = this.#FPOW * 2
            return this
        }
        divide (num) {
            let fnum = this.#COMPAREPOW(num)
            let result = this.#FLOATVAL / fnum
            this.val = result//除法会消去同项
            let fArray = this.#isFloat(result)//计算出转换后的小数和次方数
            this.#FLOATVAL = fArray[ 0 ]
            this.#FPOW = fArray[ 1 ]
    
            return this
        }
        #COMPAREPOW (num) {
            let fArray = this.#isFloat(num)//计算出转换后的小数和次方数
    
            if (this.#FPOW < fArray[ 1 ]) {
                //如果当前转换为整数的位数小于要计算的数,那么把当前数变成与当前数一样的扩展
                this.#FLOATVAL = this.#FLOATVAL * Math.pow(10, fArray[ 1 ] - this.#FPOW)
                this.#FPOW = fArray[ 1 ]
            } else if (this.#FPOW >= fArray[ 1 ]) {
                //反过来就把操作数变成和当前数一样的扩展
                fArray[ 0 ] = fArray[ 0 ] * Math.pow(10, this.#FPOW - fArray[ 1 ])
            }
            return fArray[ 0 ]
        }
    
        /**
         * @return [{转换后的整数},{转为整数要乘以10的次幂}]
         * @param {要转换为整数的数} num 
         */
        #isFloat (num) {
            let str = num.toString()
            let index = str.indexOf(".")
            if (str.indexOf(".") > 0) {
                //小数
                let fpow = str.length - index - 1
                return [ num * Math.pow(10, fpow), fpow ]
            }
            return [ num, 0 ]
        }
    }
    
    test

    相关文章

      网友评论

          本文标题:解决浮点型数值计算精度丢失的一种实现

          本文链接:https://www.haomeiwen.com/subject/tqoqvktx.html