美文网首页
iOS 除法运算结果一直是0的小Tip

iOS 除法运算结果一直是0的小Tip

作者: 阳光下的叶子呵 | 来源:发表于2022-09-20 10:52 被阅读0次

示例

//结果为0
CGFloat tFloat = 10/1000;

原因:
计算机中的运算有个原则:
相同数据类型的值才能进行运算,而且运算结果依然是同一种数据类型。因此,整数除于整数,求出来的结果依然是整数,会损失小数部分。

解决办法:

//结果为0.01
//1
CGFloat tFloat = (CGFloat)10/1000;
//2
CGFloat tFloat = (CGFloat)10.0/1000;

对结果进行了类型转换
10.0是浮点型,1000是整型,因此会将4自动类型提升为浮点型后再进行运算

相关文章

  • iOS 除法运算结果一直是0的小Tip

    今天正好碰到除法运算结果一直是0的情况,所以记录下来,希望对大家有用。 示例 原因 计算机中的运算有个原则:相同数...

  • iOS 除法运算结果一直是0的小Tip

    示例 原因:计算机中的运算有个原则:相同数据类型的值才能进行运算,而且运算结果依然是同一种数据类型。因此,整数除于...

  • MySQL 中的运算符

    算术运算符 除法运算和模运算中,如果除数为 0,将是非法除数,返回结果为 NULL 对于模运算,还有另外一种表达方...

  • Double运算结果总结(除法运算、取余运算)

    double的除法运算“/”运算 double a=0; a=10.0/2.2; System.out.print...

  • 29. Divaide Two Integers 两数相除

    题目 在不使用乘法,除法,模运算的前提下,进行整数除法。结果与 0 截断,也就是说保留整数部分 解析 不使用乘除,...

  • python int/int 避免结果为0,保留n位小数

    在python中,当int类型和int类型进行除法运算的时候int/int,为了避免结果为0,需要加入from _...

  • Python笔记3:语法糖

    运算 数字运算 运算会根据结果自动判断结果是int还是float 用到除法的时候,结果自动输出为float 双斜杠...

  • 3 运算符

    算术运算符 用于处理四则运算+-*/,注意除法和python不一样,整数相除结果还是整数(取整,且除数不能是0) ...

  • Java程序基础--整数运算

    整数运算即使是除法运算,也是精确的,两个整数相除只能得到结果的整数部分。 求余运算用% 注意:整数的除法对于除数为...

  • python数据类型——数字

    整型 Integers 整型运算,加减乘: 在Python 2.7中,整型的运算结果只能返回整型,除法的结果也不例...

网友评论

      本文标题:iOS 除法运算结果一直是0的小Tip

      本文链接:https://www.haomeiwen.com/subject/sromortx.html