美文网首页程序员Java 杂谈
容易引起问题的隐式精度转换

容易引起问题的隐式精度转换

作者: 硬耳geeklok | 来源:发表于2016-09-10 09:38 被阅读0次

最近项目中有需求对存有 ARGB8888 数据的 Bitmap 进行基于原值的透明度(alpha 值)调整,要对每个像素的 alpha byte 处理。

问题

下表描述了 byte 类型在图像处理和 Java 中分别的表达范围

领域 符号 表达范围
图像处理 unsigned [0..255]
Java signed [-128..127]

假设 Bitmap 中某像素的 alpha byte 二进制表示为 1000 0000
解析为 unsigned 时数值为 128,而 signed 时则为 -128。

此时如果想将它减半,期望为 128 / 2 = 64 (0100 0000)。
因此在所有数值都被作为 signed 解析的 Java 中,进行以上计算会出现问题。

1: byte a = (byte) 128; // int 128 的高 24 位被截断,成为 1000 0000
2: System.out.println(a); // 输出 -128,证明被作为 signed 解析了
3: byte b = (byte) (a / 2); // alpha 值减半,-128 / 2 = -64
4: System.out.println(b); // 输出 -64 (1100 0000)

很明显这与期望的 64 (0100 0000) 不同,如果把在 Java 中计算后的结果保存起来,在图像处理中该 alpha 会被解释为 192 (1100 0000)

精度转换

当 2 个不同类型的数值进行计算时,精度较低的其中 1 个必须先转换为精度较高的类型,然后再继续进行计算。

隐式转换

以上第 3 行代码中类型为 bytea 精度比类型为 inta 低,所以需要被隐式转换为 int,那么将这行代码分为 3 步。

  1. 隐式转换 aint: int t = a
  2. 开始计算: int t1 = t / 2
  3. int 截断转为 byte: byte b = (byte) t1

引起问题的隐式精度转换

其实引起问题的是以上的步骤 1,当 byte 转换为 int 时,最高位的值会被用作填充转换后 int 的高 24 位。

a (1000 0000)
隐式转换为
t (1111 1111 1111 1111 1111 1111 1000 0000)

这时 t 在 Java 中被解析为 -128,因此步骤 2 的计算会有问题。

解决方法

在步骤 1 后插入一个与操作 t = t & 0xff,将高 24 位的值置为 0

t (1111 1111 1111 1111 1111 1111 1000 0000)
&
0xff (0000 0000 0000 0000 0000 0000 1111 1111)
=
t (0000 0000 0000 0000 0000 0000 1000 0000)

这时 t 在 Java 中被解析为 128,这时拿去计算就可以得到预期结果了。

那么将源代码改一下如下

3: byte b = (byte) ((a & 0xff) / 2); // alpha 值减半,128 / 2 = 64

内置方法

其实也可以用 int Byte:toUnsignedInt(byte) 去达到相同的效果,原理是一样的。

public static int toUnsignedInt(byte x) {
    return ((int) x) & 0xff;
}
3: byte b = (byte) (Byte.toUnsignedInt(a) / 2); // alpha 值减半,128 / 2 = 64

相关文章

  • 容易引起问题的隐式精度转换

    最近项目中有需求对存有 ARGB8888 数据的 Bitmap 进行基于原值的透明度(alpha 值)调整,要对每...

  • Java基础知识积累,不断更新ing

    1. 三元运算符 语法:条件式?值1:值2 2. 数据类型转换 隐式转换低级向高级转换,自动转换,无需手动显示精度...

  • C++类型转换

    C++的类型转换分为隐式转换和显式转换 隐式转换举例: int i=4; double d=i;//隐式转换 显式...

  • scala-隐式机制及Akka

    隐式机制及Akka 隐式转换 隐式转换和隐式参数时Scala中两个非常强大的功能,利用隐式转换和隐式参数,可以提供...

  • Scala基础——隐式转换

    隐式转换 Scala的隐式转换,其实最核心的就是定义隐式转换函数,即implicitconversion func...

  • [js]Property names and square b

    问题缘起 自己的分析 难道做了隐式转换?(后来发现这根本不叫隐式转换) 查到解释 Property names m...

  • .net中的类型转换

    1、预定义 1.1 数字之间 显式:高精度 -> 低精度(概况描述,不准确) 隐式:低精度 -> 高精度(概况描述...

  • JavaScript改变this指向的3种方法(代码说明)

    我们用例子来说明问题 隐式转换 显示转换 new

  • 【Scala】Scala 隐式转换 implicit

    本篇结构: 前言 隐式转换类型 隐式转换的规则 -- 如何寻找隐式转换方法 参考博文 一、Implicit 简介 ...

  • Scala 隐式转换

    一、隐式转换 隐式转换需要执行隐式函数,隐式函数是以 implicit 关键字声明的带有单个参数的函数。隐式函数会...

网友评论

    本文标题:容易引起问题的隐式精度转换

    本文链接:https://www.haomeiwen.com/subject/qftdjttx.html