多视图高斯过程（Gaussian Process） - part

最近涉及到多视图的高斯过程，这里做个记录。本部分主要内容是如何将GP扩展到多视图。主要介绍来自论文《Multiview Variational Sparse Gaussian Processes》的“Base Multiview GP Model”。

标准的GP模型和VSGP（变分稀疏高斯过程）的图模型可以表示为如下形式：

论文《Deep Neural Networks as Gaussian Processes》也说明了GP过程和神经网络是有一定关联的。变分过程相当于在观测数据之外，又引入了一组诱导点总结后验过程以将GP过程扩展到对大数据集的应用上。
图中的，是均值函数计算的输出的向量，是一个核矩阵，其元素由核函数给出。
而对于VSGP而言，增加了诱导点和对应其对应的潜在函数，图模型如（b）所示。由图可以看出，对于的预测除了可以依赖于输入本身之外，还受到的影响。

Base multi-view VSGP model

该模型可以看做是单视图GP模型的集成。
对于多视图的每个视图而言，假设在的条件下的分布由GP模型给定。也就说，对于视图的输入，存在一个具有GP先验的潜在函数。当使用GP模型建模多视图数据时，对每个视图使用一个潜在函数是很常见的。在这种情况下，对应的输出通过某种似然与相关联。
给定视图，GP模型有如下的定义：

对于多视图而言，共有个GP模型，并且每个视图都可能有自己的核函数和似然。总体模型的超参数写成 其中，每个包含核函数参数和似然参数。
因此，Base multi-view VSGP model如下所示： 仅仅是两个单视图VSGP的集成，中间没有产生任何的联系。
作者的思想是使用一个共享的均值，建立两个视图之间的关联性：
emmmm 思想能理解，但是。。推导看不懂 以后再填坑吧。。。

---