美文网首页iOS程序猿
double转unsigned int等于?

double转unsigned int等于?

作者: 皮皮Warrior | 来源:发表于2019-04-13 19:48 被阅读0次

    double转unsigned int等于?

    如题所述,今天碰到一个很隐晦的Bug,调用一个函数的结果总是不符合预期。

    问题

    先看问题:

    doube num_double = -1;
    unsigned int num_uint = num_doube;
    

    num_uint会是多少?
    先说答案,是0。

    数值转换的坑

    上面的答案可能不够准确,在ARM平台上是0,在x86平台上是-1的补码。

    我们在学校学到的知识是基于x86平台的,即:

    整型负数的类型转换,是在其补码上做高位的去除和填补,浮点型负数的类型转换,是取其整数部分的补码做高位去除和填补。

    由于负数在底层存储是补码,会造成无符号与有符号数字在比较,计算的不方便(有符号会转成无符号)。但浮点数负数的类型转换,在我的脑海里一直是老师教的那样,取整数部分,直到今天栽了坑。

    负数转无符号整数

    当负数是整数时,无符号整数只是换了一种表达方式来解释它的补码,所以-1是4294967295。

    当负数是浮点数时,浮点数的存储是尾数+指数的方式,不能直接将其二进制数据转为无符号整数表达。这就依赖平台的实现了,具体的ARM会转成0,而x86会转成整数部分。

    如何避免产生Bug

    当实际参数和形参类型不同是,要避免在传参时直接使用函数返回值的情况,如:

    double funcA(){
        return -100.000000001;
    }
    void funcB(unsigned int num){
        print num; 
    }
    

    我们在使用时要避免funcB(funcA())的形式, 这样会直接输出0, 最好用临时变量存住funcA的值再使用。

    相关文章

      网友评论

        本文标题:double转unsigned int等于?

        本文链接:https://www.haomeiwen.com/subject/jhirwqtx.html