# Block‑Sparse Attention with Semantic‑Geometric Decoupled Routing（arXiv:2609.22884）论文总结与翻译
> 论文链接：[https://arxiv.org/abs/2609.22884](https://arxiv.org/abs/2609.22884)
> 作者：Xinwei Long, Weigao Sun, Weibo Gao, Pengkun Jiao, Biqing Qi, Feida Zhu, Yiran Zhong, Steven Hoi, Bowen Zhou
> 提交：2026‑09‑19，投稿 ACL ARR 2026 May
## 一、论文主要内容
长上下文推理是大语言模型的核心能力，但标准稠密注意力的计算开销随序列长度呈二次增长，推理成本极高。**块稀疏注意力（Block‑Sparse Attention）** 将查询、键切分为块，只让每个查询块去访问少量相关的键块，硬件友好，可以降低计算量；但无训练（training‑free）的块路由策略很难做到精准。
现有块路由大多在**RoPE旋转位置编码之后**对token特征做池化聚合，会出现一个关键缺陷：语义信息和RoPE带来的位置几何信息相互纠缠；高频相位抵消会削弱局部位置信号，导致路由选择不准。
本文提出**语义‑几何解耦路由（Semantic‑Geometric Decoupled Routing）**，属于无需额外训练的块稀疏路由框架：
1. 将语义聚合操作挪到**RoPE编码之前的特征空间**完成；
2. 使用离线结构先验 + 块间相对距离，单独重建位置几何偏置；
3. 推导出显式闭式的块路由打分，不需
