从图片相似度学习图片的表示

很多时候带分类标注的图片样本是很难获得的，但是图片之间的相似度却不难获得。最简单的方式有几个：

• 视频里相邻的帧是相似的。见论文Unsupervised Learning of Visual Representations using Videos
• 如果有用户日志数据，可以基于协同过滤计算图片之间的相似度。见论文Beyond Classification: Latent User Interests Profiling from Visual Contents Analysis

最早用来从相似图片数据集上学习图片表示的网络结构是siamese网络。

两幅图通过两个共享权重的CNN得到各自的表示。而各自表示的距离决定了他们是相似还是不相似。

在siamese网络之后，又提出了用triplet loss来学习图片的表示，大概思路如下：

• 拿到3张图片A, B, C。其中A，B相似，A，C不相似。
• 学到A, B, C 的表示，使得A,B之间的距离尽量小，而A，C之间的距离尽量大。

用mxnet实现triplet loss很简单，代码如下：

def get_net(batch_size):
    same = mx.sym.Variable('same')
    diff = mx.sym.Variable('diff')
    anchor = mx.sym.Variable('anchor')
    one = mx.sym.Variable('one')
    one = mx.sym.Reshape(data = one, shape = (-1, 1))
    conv_weight = []
    conv_bias = []
    for i in range(3):
        conv_weight.append(mx.sym.Variable('conv' + str(i) + '_weight'))
        conv_bias.append(mx.sym.Variable('conv' + str(i) + '_bias'))
    fc_weight = mx.sym.Variable('fc_weight')
    fc_bias = mx.sym.Variable('fc_bias')
    fa = get_conv(anchor, conv_weight, conv_bias, fc_weight, fc_bias)
    fs = get_conv(same, conv_weight, conv_bias, fc_weight, fc_bias)
    fd = get_conv(diff, conv_weight, conv_bias, fc_weight, fc_bias)
    
    fs = fa - fs
    fd = fa - fd
    fs = fs * fs
    fd = fd * fd
    fs = mx.sym.sum(fs, axis = 1, keepdims = 1)
    fd = mx.sym.sum(fd, axis = 1, keepdims = 1)
    loss = fd - fs
    loss = one - loss
    loss = mx.sym.Activation(data = loss, act_type = 'relu')
    return mx.sym.MakeLoss(loss)

这里conv_weight[], fc_weight, conv_bias[], fc_bias是两个CNN网络共享的模型。理论上这里可以用任何的CNN网络(AlexNet, GoogleNet, ResNet)。我们用了一个特别简单的CNN，如下：

def get_conv(data, conv_weight, conv_bias, fc_weight, fc_bias):
    cdata = data
    ks = [5, 3, 3]
    for i in range(3):
        cdata = mx.sym.Convolution(data=cdata, kernel=(ks[i],ks[i]), num_filter=32,
                                   weight = conv_weight[i], bias = conv_bias[i],
                                   name = 'conv' + str(i))
        cdata = mx.sym.Pooling(data=cdata, pool_type="avg", kernel=(2,2), stride=(1, 1))
        cdata = mx.sym.Activation(data=cdata, act_type="relu")

    cdata = mx.sym.Flatten(data = cdata)
    cdata = mx.sym.FullyConnected(data = cdata, num_hidden = 1024,
                                  weight = fc_weight, bias = fc_bias, name='fc')
    cdata = mx.sym.L2Normalization(data = cdata)
    return cdata

Triple loss用的Simultaneous Feature Learning and Hash Coding with Deep Neural Networks里的定义：

下面是在cifar10数据集上测试的结果。为了形象的表示，采用了图片检索的方式（因为不是论文，所以就不那么严谨了）。在训练集上学习图片的表示，然后对于测试集的一张随机图片，找到测试集上和他最相似的其他图片：

在其他的论文中还有一些其它评测方式，比如学习到表示后，用一个SVM去学习分类，看看分类的准确度相比End－End的CNN如何。基本的结论都是精度会稍微低一些，但是没用明显区别。这说明学到的表示是靠谱的。

全部的代码见 github