double转unsigned int等于?
如题所述,今天碰到一个很隐晦的Bug,调用一个函数的结果总是不符合预期。
问题
先看问题:
doube num_double = -1;
unsigned int num_uint = num_doube;
num_uint会是多少?
先说答案,是0。
数值转换的坑
上面的答案可能不够准确,在ARM平台上是0,在x86平台上是-1的补码。
我们在学校学到的知识是基于x86平台的,即:
整型负数的类型转换,是在其补码上做高位的去除和填补,浮点型负数的类型转换,是取其整数部分的补码做高位去除和填补。
由于负数在底层存储是补码,会造成无符号与有符号数字在比较,计算的不方便(有符号会转成无符号)。但浮点数负数的类型转换,在我的脑海里一直是老师教的那样,取整数部分,直到今天栽了坑。
负数转无符号整数
当负数是整数时,无符号整数只是换了一种表达方式来解释它的补码,所以-1是4294967295。
当负数是浮点数时,浮点数的存储是尾数+指数的方式,不能直接将其二进制数据转为无符号整数表达。这就依赖平台的实现了,具体的ARM会转成0,而x86会转成整数部分。
如何避免产生Bug
当实际参数和形参类型不同是,要避免在传参时直接使用函数返回值的情况,如:
double funcA(){
return -100.000000001;
}
void funcB(unsigned int num){
print num;
}
我们在使用时要避免funcB(funcA())
的形式, 这样会直接输出0, 最好用临时变量存住funcA
的值再使用。
网友评论