基于依存句法和图注意力网络的句子匹配

TP391.1; 句子匹配是自然语言处理的一项基本任务,可应用于自然语言推理、释义识别等多个场景.目前,主流的模型大多采用注意力机制来实现两个句子之间单词或短语的对齐.然而,这些模型通常忽略了句子的内在结构,没有考虑文本单元之间的依存关系.针对此问题,提出了一种基于依存句法和图注意力网络的匹配模型.设计两种建模方式将句子对建模为语义图.使用图注意力网络对构建的图进行编码以进行句子匹配.实验结果表明,提出的模型可以较好地学习图结构,在自然语言推理数据集SNLI和释义识别数据集Quora上分别达到了88.7％和88.9％的准确率....

Full description

Saved in:
Bibliographic Details
Published in计算机工程与应用 Vol. 59; no. 9; pp. 123 - 129
Main Authors 杨春霞, 陈启岗, 徐奔, 马文文
Format Journal Article
LanguageChinese
Published 江苏省大数据分析技术重点实验室,南京 210044 01.05.2023
江苏省大气环境与装备技术协同创新中心,南京 210044
南京信息工程大学 自动化学院,南京 210044
Subjects
依存句法
图注意力网络
全连通语义图
词共现语义图
句子匹配
Online AccessGet full text
ISSN1002-8331
DOI10.3778/j.issn.1002-8331.2112-0391

Cover

More Information
Summary:TP391.1; 句子匹配是自然语言处理的一项基本任务,可应用于自然语言推理、释义识别等多个场景.目前,主流的模型大多采用注意力机制来实现两个句子之间单词或短语的对齐.然而,这些模型通常忽略了句子的内在结构,没有考虑文本单元之间的依存关系.针对此问题,提出了一种基于依存句法和图注意力网络的匹配模型.设计两种建模方式将句子对建模为语义图.使用图注意力网络对构建的图进行编码以进行句子匹配.实验结果表明,提出的模型可以较好地学习图结构,在自然语言推理数据集SNLI和释义识别数据集Quora上分别达到了88.7％和88.9％的准确率.
ISSN:1002-8331
DOI:10.3778/j.issn.1002-8331.2112-0391