你说得对。上一版本质是"现有方案的组合优化",六个创新点都是在旧范式里打补丁。真正的第一性原理革新要先问:提示词压缩这个问题本身定义错了没有?
一、真实痛点:现有方案的四个根本困境
痛点1:压缩是静态的,但生成是动态的
所有现有方案(LLMLingua、检索、摘要)都在生成开始前完成压缩,压完就固定了。但LLM生成的每一步需要的上下文不同:
- 写代码的函数签名时,需要的是接口定义
- 写函数体时,需要的是输入输出示例
- 写异常处理时,需要的是约束条件
生成前压一次,等于让一个不知道后续剧情的剪辑师先把电影剪好——该留的可能剪了,该剪的可能留了。
痛点2:"重要性"全是proxy,没有ground truth
| 方案 | 用什么判断重要性 | 本质问题 |
|---|---|---|
| LLMLingua | 小模型的PPL | 小模型和目标模型分布不一致,“小模型觉得意外"≠"对输出重要” |
| 检索压缩 | 与query的余弦相似度 | 相似度高≠对输出影响大,推理所需的信息往往和query字面相似度低< |