翻译模型:
处理:知识表示与推理
将实体向量表示(Embedding)在低维稠密向量空间中,然后进行计算和推理。
TransE: 多元关系数据嵌入
通过将实体与关系嵌入到同一低维向量空间
建立简单且易拓展的模型把知识库中的实体和关系映射到低维向量空间中,从而计算出隐含的关系

TransH: 将知识嵌入到超平面
将实体和关系嵌入到同一的向量空间,但实体在不同关系中有不同的表示。
对知识库中的实体关系建模,特别是一对多,多对一,多对多的关系,设计更好的建立负类的办法用于训练。

TransR: 实体和关系分开嵌入
将实体和关系嵌入到不同的空间中,在对应的关系空间中实现翻译。
一个实体是多种属性的综合体,不同关系关注实体的不同属性。
直觉上一些相似的实体在实体空间中应该彼此靠近,但是同样地,在一些特定的不同的方面在对应的关系空间中应该彼此远离。

TransD: 通过动态映射矩阵嵌入
实体和关系映射到不同的空间中,用两个向量表示实体或关系,一个(h,r,t)表征实体或关系,另一个(hp,rp,tp)用来构造动态映射矩阵。
在TransR的基础上减少参数

TransA: 自适应的度量函数
更换度量函数,区别对待向量表示中的各个维度,增加模型表示能力。
解决了translation-based 知识表示方法存在的过于简化损失度量,没有足够能力去度量/表示知识库中实体/关系的多样性和复杂性的问题。

TranSpare: 自适应稀疏转换矩阵
针对不同难度的实体间关系,使用不同稀疏程度的矩阵(不同数量的参数)来进行表征,从而防止对复杂关系欠拟合或者对简单关系过拟合;
对头尾两种实体采用不同的投影矩阵,解决头尾实体数目不对等的问题。
解决问题:
1.异质性:有的实体关系十分复杂,连接许多不同的实体,而有些关系又非常简单
2.不均衡性:很多关系连接的head和tail数目很不对等。
TransG: 高斯混合模型
利用贝叶斯非参数高斯混合模型对一个关系生成多个翻译部分,根据三元组的特定语义得到当中的最佳部分。
解决多关系语义的问题,同一种关系在语义上是不同的

KG2E: 高斯分步表示实体和关系
使用Gaussian Distribution 来表示实体和关系
提出用Gaussian Distribution的协方差来表示实体和关系的不确定度,提升了已有模型在link prediction和triplet classification问题上的准确率。

网友评论