一种开发时浮点型数值计算精度丢失的解决方案
一般的方法都是乘以10的倍数转为整数,计算后再除以扩大的10的倍数
实现思路:
1.包装一个类拥有原数值,转换后的整数以及10的倍数
2.传入一个数字进行初始化
3.编写四则运算函数,每次运算把运算后的结果,结果的整数以及10的倍数保存起来,并返回此对象用于流式计算
关键点:
加减因为是乘以公共项,所以结果除以公共项即可
乘法扩大时,要选定一个点,比如0.2X0.001 选定10的3次方作为扩大的项,等于乘了两次,所以结果需要处理 10的n次方的平方
((0.2 * 1000) X (0.001 * 1000))/ (1000 * 1000)
除法同项相消,不用对结果进行运算,但是如果结果不是整数,需要转为整数并求出10的次方数,以便流式计算
以js为例,其他语言同理
没有处理无效值(空,非数字等)以及没有控制除不尽时的精度
未对四则运算进行覆盖测试,仅提供思路
class FNumber {
val//原始的值
#FLOATVAL = 0;//私有属性
#FPOW = 0;;//变成整数的位数(任何数次方0都为1)
constructor(val) {
this.val = val
let fArray = this.#isFloat(val)
this.#FLOATVAL = fArray[ 0 ]
this.#FPOW = fArray[ 1 ]
}
add (num) {
let fnum = this.#COMPAREPOW(num)
let result = this.#FLOATVAL + fnum
this.#FLOATVAL = result
this.val = result / Math.pow(10, this.#FPOW)
return this
}
subtract (num) {
let fnum = this.#COMPAREPOW(num)
let result = this.#FLOATVAL - fnum
this.#FLOATVAL = result
this.val = result / Math.pow(10, this.#FPOW)
return this
}
multiply (num) {
let fnum = this.#COMPAREPOW(num)
let result = this.#FLOATVAL * fnum
this.#FLOATVAL = result
let fpow = Math.pow(10, this.#FPOW)
this.val = result / Math.pow(fpow, 2)
this.#FPOW = this.#FPOW * 2
return this
}
divide (num) {
let fnum = this.#COMPAREPOW(num)
let result = this.#FLOATVAL / fnum
this.val = result//除法会消去同项
let fArray = this.#isFloat(result)//计算出转换后的小数和次方数
this.#FLOATVAL = fArray[ 0 ]
this.#FPOW = fArray[ 1 ]
return this
}
#COMPAREPOW (num) {
let fArray = this.#isFloat(num)//计算出转换后的小数和次方数
if (this.#FPOW < fArray[ 1 ]) {
//如果当前转换为整数的位数小于要计算的数,那么把当前数变成与当前数一样的扩展
this.#FLOATVAL = this.#FLOATVAL * Math.pow(10, fArray[ 1 ] - this.#FPOW)
this.#FPOW = fArray[ 1 ]
} else if (this.#FPOW >= fArray[ 1 ]) {
//反过来就把操作数变成和当前数一样的扩展
fArray[ 0 ] = fArray[ 0 ] * Math.pow(10, this.#FPOW - fArray[ 1 ])
}
return fArray[ 0 ]
}
/**
* @return [{转换后的整数},{转为整数要乘以10的次幂}]
* @param {要转换为整数的数} num
*/
#isFloat (num) {
let str = num.toString()
let index = str.indexOf(".")
if (str.indexOf(".") > 0) {
//小数
let fpow = str.length - index - 1
return [ num * Math.pow(10, fpow), fpow ]
}
return [ num, 0 ]
}
}
test
网友评论