论文29 天前约 1 分钟读完arxiv.org

DualDecoder 长上下文解码吞吐提至2.62倍

复旦、蚂蚁集团提出的优化方案，通过预测式预取隐藏通信延迟，缓解长上下文推理显存瓶颈

A

原文来源

arxiv.org

https://arxiv.org/abs/2607.26475