COKE简介

先前的知识图谱嵌入方法允许对每个实体或关系进行单个静态嵌入,忽略了他们的内在上下文属性。CoKE是一个新奇的模型:它考虑到上下文属性,学习动态的,灵活的和充满上下文的实体和关系embedding。有两种类型的图内容被考虑到:边和路径,这两者都被形式化为实体和关系的序列。COKE利用transformer块来对输入进行编码并获得实体和关系的上下文表达。

COKE的整体概图 任务:链接预测和路径问题回答 模型输入:元素embedding和位置embedding 当构建了所有的输入表达之后,将他们再输入到一堆连续的transformer编码器中来编码序列。

文章链接

评论可见,请评论后查看内容,谢谢!!!评论后请刷新页面。