一、背景

最近一年,除了继续卷大模型推理能力之外,更长的上下文长度也是现在模型竞争的关键点,因为更长的上下文,尤其是不断增长的输入文本会让大模型可适配可处理的任务广度得到大幅度的提升。