RDP鼠标指针消失不见的问题

问题描述

在某些情况下，在远端打开WordPad、Outlook等软件，当焦点切换到文字编辑的状态下，鼠标指针就消失了。这导致用户没法用鼠标指针去定位文字，也就没法顺利的编辑文字。

解决过程

1. 首先要复现问题，问题在某个机器上打开WordPad的情况下复现了
2. 调试前端代码，有以下几个发现：
   • 根据RDP协议，鼠标指针的图形是由RDS发送给客户端的。发送的内容包括：index，bpp，andmask和xormask
     • index：客户端需要缓存鼠标指针图形在一个数组中，index就是缓存数组的索引。后面的描画中，如果RDS对已经发送过的鼠标指针图形则只发送一个index让客户端自行取出缓存的图形进行描画
     • bpp：鼠标图像中每个像素点颜色位阶，有 1bpp, 8bpp, 16bpp, 24bpp, 32bpp
     • andmask：是鼠标图形各个像素点的Alpha值的mask，如果鼠标的大小为32x32，则这个mask大小一般为128.为什要用这个mask呢？因为上面提到的bpp，除了32bpp以外其他的位阶是没有alpha通道的，需要一个mask来记录alpha值。
     • xormask：意思是与前面的andmask进行异或运算，其实就是实际的像素内容
   • 在出现问题的机器上，那个没有显示的鼠标的andmask发送的数据都是255，也就表示所有的像素的alpha值都是透明的，当然看不到
3. 刚开始尝试去规避这个问题，但是没法规避，andmask发送一个全透明，按照算法这个图标就是透明的
4. 后来发现这个图标的bpp是32位的，也就是自带alpha通道。按照道理是可以不需要andmask，直接使用自带的alpha通道来构建图形。尝试之后果然可以了。

症结所在

在不断的搜索和尝试之后，这个问题的原因是。当时写前端代码时，主要参考的desktop的代码，参考时rdesktop对鼠标指针的处理时有问题的。但是后来rdesktop修改了这个错误，但是没有把这个fix同步到我们的代码上。问题的原因就是，原来的代码对16、24和32bpp的图标用了一套算法，也就是alpha值是用andmask算出来的，以前都没有问题，因为32bpp的图形都会带一个正确的andmask。但是在某些软件下返回的鼠标指针的图形并不是32bpp的，而是16bpp或者24bpp，这些图形的Alpha值和RGB值要通过别的算啊来计算。这也就是在描画这些图形时，使用了错误的算法导致没有全图透明，指针自然就消失了。

后记1

因为rdesktop有一个相关的Issue从而启发我才解决这个问题的， rdesktop's black-square cursor

后记2

追寻之前的连接，能找到2.2.9.1.1.4.4 Color Pointer Update (TS_COLORPOINTERATTRIBUTE)，在这也能看到这样的描述

This pointer update is used for both monochrome and color pointers in RDP.

于是搜索了一下monochrome and color pointers，找到了Drawing Monochrome Pointers 和 Drawing Color Pointers，这个两个文档介绍了Pointer在不同模式下改如何描画。其实这时图形驱动的文档，但是很详细的介绍了改如何描画一些东西，值得参考！！

后记3

这篇文章很早就写了，当时因为简书的各种认证没有发出来。今天要写另一个问题的时，看到这片没有发布的文章。又重新整理了一遍，把一些错误的记录删除了。