简介

事件指代消解是信息提取中的一个重要任务，尤其在跨文档事件指代消解方面存在挑战。现有工作尝试通过微调小语言模型来解决跨文档事件指代消解，但仍然面临着复杂多样的语境和学习伪特征的问题。

本文介绍了一种协作式的方法，结合了大规模语言模型和有监督序列标注模型，用于解决复杂文本中的事件关系抽取任务。该方法利用大规模语言模型的通用能力，对文本中的事件提取进行总结，然后将这些信息传递给有监督序列标注模型，以提高其对事件的理解和判断能力。实验结果表明，该方法在三个数据集上均取得了最优结果。

LLM摘要生成

为了处理各种类型的事件并从复杂的上下文中收集特定的细节，我们设计了一个两步工作流来提示LLM。第一步负责为文档上下文中不同类型的事件提取定制的信息。第二步的目的是扩展第一步输出中提到的实体的细节，因为实体细节通常分散在整个文档中。在每个步骤中，我们使用一个直接的提示来完成一个主要任务。我们的提示坚持简单的原则，避免额外的解释，以防止语义转移。与合成的单步工作流相比，我们的两步工作流保证每个步骤都专注于其主要目标，从而防止两个步骤之间的干扰。

在第一步中，我们指示LLM代理“详细说明”事件提及，而不是传统的“总结”指令。术语“阐述”意味着一种基于提及词本身概念的解释行为，强调来自文档上下文的细节支持。这表明LLM可以自动从上下文中选择任何相关的细节来支持这种解释，包括上下文单词、实体提及和事件提及。这提供了一种标准化和可行的方式来理解事件，利用LLM的内在知识和上下文理解能力，而不需要强加给LLM遵守复杂的规则。

在第二步中，我们提示LLM代理使用共同引用解析来聚合关于实体的详细信息，因为与事件相比，实体共同引用是一项更标准化的任务，并且在文档中执行它可以降低复杂性。此外，我们要求LLM根据文献的发布日期进行时间推理，进一步减少共参考证据比较中的歧义。

在这两个步骤中，我们指定了生成格式，以确保摘要中的提及范围与原始文档之间的一致性。这不仅降低了LLM的生成难度，而且有利于SLM在联合表示学习中建立两者之间的联系。

集成到最后的LLM

SLM将原始文档和生成的摘要作为输入。通过直接联合表示学习技术，新的提及向量表示可以无缝地集成到基线中。

对于提及m ij，设S ij表示生成的摘要，m ij (S)表示其中的提及。通过将原始文档d1和摘要s2连接起来，形成一个新的文档d1'。设fenc'表示新的编码器网络。它首先对新文档Di'进行编码，得到h ij和h ij (s)的向量表示，mij和mij。然后将这些向量连接起来，形成融合的提及向量表示h' ij，它可以无缝地替换基线中的h' ij，以进行后续操作。

联合表示学习过程可以表示为：

这种整合方法包括将原始上下文和生成的摘要连接起来进行联合表征学习，使得在相同的注意空间中相互学习彼此的上下文，从而增强对真正的参考相关术语的理解。

消融分析

两步流程

通过剖析执行步骤的效果，发现第二步的全局信息扩展对于提高摘要质量更为重要，特别是在FCC数据集中。将两个步骤合并成一个步骤会导致性能下降，说明将多目标任务分解成多个独立步骤是必要的。文章还提供了错误分析和生成摘要长度的比较。

GPT-4在CDECR上的表现

结果表明，使用少量示例学习和包含提及的句子作为上下文的方法(FewMIS)可以使GPT-4达到最佳性能，但仅能达到与基于词形匹配的方法相当的结果。同时，使用全文本作为上下文会导致性能显著下降。此外，零样本学习表现出更高的召回率但显著较低的精度。研究还发现，GPT-4在区分相似但非指代性事件方面存在局限性，而在基于语义的显著叙述差异的指代性事件方面也存在困难。