声明:本文来自于微信公众号 新智元（ID:AI_era），作者:新智元，授权转载发布。

【新智元导读】模仿人类阅读过程，先分段摘要再回忆，谷歌新框架ReadAgent在三个长文档阅读理解数据集上取得了更强的性能，有效上下文提升了3-20倍。

基于Transformer的大语言模型（LLM）具有很强的语言理解能力，但LLM一次能够读取的文本量仍然受到极大限制。

除了上下文窗口较小外，LLM的性能会随着输入内容长度的增加而下降，即便输入内容未超过模型的上下文窗口长度限制也是如此。

相比之下，人类却可以阅读、理解和推理很长的文本。

LLM和人类在阅读长度上存在差异的主要原因在于阅读方法:LLM逐字地输入精确的内容，并且该过程相对被动;但过于准确的信息往往会被遗忘，而阅读过程更注重理解模糊的要点信息，即不考虑准确单词的内容能记忆更长时间。

人类阅读也是一个互动的过程，比如回答问题时还需要从原文中进行检索。

为了解决这些限制，来自Google DeepMind和Google Research的研究人员提出了一个全新的LLM系统ReadAgent，受人类如何交互式阅读长文档的启发，将有效上下文长度增加了20倍。

论文链接:https://arxiv.org/abs/2402.09727

受人类交互式阅读长文档的启发，研究人员将ReadAgent实现为一个简单的提示系统，使用LLMs的高级语言功能:

1. 决定将哪些内容存储在记忆片段（memory episode）中;

2. 将记忆片段压缩成称为要点记忆的简短片段记忆，

3. 如果ReadAgent需要提醒自己完成任务的相关细节，则采取行动（action）来查找原始文本中的段落。

在实验评估中，相比检索、原始长上下文、要点记忆（gist memories）方法，ReadAgent在三个长文档阅读理解任务(QuALITY，NarrativeQA和QMSum)上的性能表现都优于基线，同时将有效上下文窗口扩展了3-20倍。

ReadAgent框架

1. 要点记忆（gist memory）

要点记忆是原始长上下文中文本块的短要点的有序集合，构建gist记忆有两个步骤:分页（pagination）和记忆提要(memory gisting)。

片段分页（episode pagination）

当ReadAgent阅读长文本时，通过选择暂停阅读的位置来决定在记忆片段中存储哪些内容。

每一步都会为LLM提供部分文本，从上一个暂停点开始，并在达到最大单词数限制时结束;提示LLM选择段落之间的哪个点将是自然的暂停点，然后将前一个和当前暂停点之间的内容视为一个episode，也可以叫做页（page）。

记忆提要（memory gisting）

对于每一页，提示LLM将确切的内容缩短为要点或摘要。

2. 并行和顺序交互查找

由于要点记忆与页相关，所以只需提示LLM来找出哪一页更像是答案，并在给定特定任务的情况下再次阅读，主要有两种查找策略:同时并行查找所有页面（ReadAgent-P）和每次查找一个页面(ReadAgent-S)。

ReadAgent-P

比如说，在问答任务中，通常会给LLM输入一个可以查找的最大页数，但也会指示其使用尽可能少的页面，以避免不必要的计算开销和干扰信息（distracting information）。

ReadAgent-S

顺序查找策略中，模型一次请求一页，在决定展开（expand）哪个页面之前，先查看之前展开过的页面，从而使模型能够访问比并行查找更多的信息，预期在某些特殊情况下表现得更好。

但与模型的交互次数越多，其计算成本也越高。

3. 计算开销和可扩展性

片段分页、记忆提要和交互式查找需要迭代推理，也存在潜在的计算开销，但具体开销由一个小因子线性约束，使得该方法的计算开销不会输入长度的增加而剧烈提升。

由于查找和响应大多是条件要点（conditioned gists）而非全文，所以在同一上下文中的任务越多，成本也就越低。

4. ReadAgent变体

当使用长文本时，用户可能会提前知道要解决的任务:在这种情况下，提要步骤可以在提示中包括任务描述，使得LLM可以更好地压缩与任务无关的信息，从而提高效率并减少干扰信息，即条件ReadAgent

更通用的任务设置下，在准备提要时可能不知道具体任务，或者可能知道提出的要点需要用于多个不同的任务，例如回答关于文本的问题等。

因此，通过排除注册步骤中的任务，LLM可以产生更广泛有用的提要，代价是减少压缩和增加干扰注意力的信息，即非条件ReadAgent。

这篇论文中只探讨了无条件设置，但在某些情况下，条件设置可能更有优势。

迭代提要（iterative gisting）

对于一段很长的事件历史，例如对话等，可以考虑通过迭代提要来进一步压缩旧记忆来实现更长的上下文，对应于人类的话，旧记忆更模糊。

实验结果

研究人员评估了ReadAgent在三个长上下文问答挑战中的长文档阅读理解能力:QuALITY、NarrativeQA和QMSum。

虽然ReadAgent不需要训练，但研究人员仍然选择在训练集上开发了一个模型并在验证、测试和/或开发集上进行了测试，以避免过拟合系统超参数的风险。

选用的模型为指令微调后的PaLM2-L模型。

评估指标为压缩率（compression rate， CR），计算方法如下:

LLM评分器

NarrativeQA和QMSum都有一个或多个自由形式的参考回复，通常使用诸如ROUGE-F之类的语法匹配度量来评估。

除此之外，研究人员使用自动LLM评分器来评估这些数据集，作为人工评估的替代方法。

上面两个提示中，严格LLM评分器提示用于判断是否存在精确匹配，许可LLM评分器提示用于判断是否存在精确匹配或部分匹配。

基于此，研究人员提出了两个评价指标:LLM-Rating-1（LR-1）是一个严格的评估分数，计算所有示例中精确匹配的百分比;LLM-Rating-2(LR-2)计算精确匹配和部分匹配的百分比。

长上下文阅读理解

QuALITY

QuALITY是一个多选问答任务，每个问题包含四个答案，使用来自多个不同来源的文本数据。

实验结果显示，ReadAgent（查找1-5页）实现了最好的结果，压缩率为66.97%(即提要后上下文窗口中可以容纳3倍的token)。

当增加允许查找的最大页数（最多5页）时，性能会不断提高;在6页时，性能开始略有下降，即6页上下文可能会增加干扰信息。

NarrativeQA

在三个阅读理解数据集中，NarrativeQA的平均上下文长度最长，为了将gists放入上下文窗口，需要扩展页面的尺寸大小。

提要对Gutenburg文本（书籍）的压缩率为96.80%，对电影剧本的压缩率为91.98%

QMSum

QMSum由各种主题的会议记录以及相关问题或说明组成，长度从1，000字到26，300字不等，平均长度约为10，000字，其答案是自由形式的文本，标准的评估指标是ROUGE-F

可以看到性能随着压缩率的降低而提高，因此查找更多页面的技术往往比查找更少页面的技术做得更好。

还可以看到ReadAgentS大大优于ReadAgent-P（以及所有基线），性能改进的代价是检索阶段的请求数量增加了六倍。

参考资料:

https://arxiv.org/abs/2402.09727