知识图谱是存储真实世界海量知识的图数据库,为大量知识驱动的下游任务提供了数据支持. 知识图谱往往具有不完备性,存在大量缺失的事实,因此知识图谱推理任务基于已知事实推理新结论来补全知识图谱. 随着知识工程及其商业应用的研究与发展,大量通用和领域知识图谱被构建. 现有知识图谱推理方法大多面向单一知识图谱的补全,不具备通用推理能力. 近年来,受预训练大语言模型通用能力的启发,一些通用的知识图谱推理预训练模型被提出. 针对现有预训练模型无法识别高质量推理模式的问题,提出一个基于规则提示的知识图谱通用推理预训练模型——RulePreM,该模型筛选与利用高质量推理规则来提高知识图谱上的推理能力. 首先基于推理规则构建关系IO图和一个编码器RuleGNN对关系进行编码,然后将关系编码作为提示来编码知识图谱中的实体,最后对候选实体进行打分预测. 还提出一种结合规则置信度的注意力机制,来进一步减少低质量推理模式的影响. 实验结果表明,所提出的模型在43个不同设定下的知识图谱上具有良好的通用推理能力,平均性能指标均优于现有的有监督模型和预训练模型.
… … 相似文献