news 2026/9/3 1:20:45

提示词压缩的终极答案:把静态删减变成动态记忆调度

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
提示词压缩的终极答案:把静态删减变成动态记忆调度

你说得对。上一版本质是"现有方案的组合优化",六个创新点都是在旧范式里打补丁。真正的第一性原理革新要先问:提示词压缩这个问题本身定义错了没有?


一、真实痛点:现有方案的四个根本困境

痛点1:压缩是静态的,但生成是动态的

所有现有方案(LLMLingua、检索、摘要)都在生成开始前完成压缩,压完就固定了。但LLM生成的每一步需要的上下文不同:

  • 写代码的函数签名时,需要的是接口定义
  • 写函数体时,需要的是输入输出示例
  • 写异常处理时,需要的是约束条件

生成前压一次,等于让一个不知道后续剧情的剪辑师先把电影剪好——该留的可能剪了,该剪的可能留了。

痛点2:"重要性"全是proxy,没有ground truth

方案用什么判断重要性本质问题
LLMLingua小模型的PPL小模型和目标模型分布不一致,“小模型觉得意外"≠"对输出重要”
检索压缩与query的余弦相似度相似度高≠对输出影响大,推理所需的信息往往和query字面相似度低<
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/3 1:19:17

Ubuntu Windows 时间同步

wangjingwangjing-pc:~$ timedatectlLocal time: 二 2016-12-06 17:11:43 CSTUniversal time: 二 2016-12-06 09:11:43 UTCRTC time: 二 2016-12-06 17:11:42Time zone: Asia/Shanghai (CST, 0800)Network time on: yes NTP synchronized: noRTC in local TZ: yesWarning: The …

作者头像 李华
网站建设 2026/9/3 1:12:49

一对“锁死”的命运共同体!不懂Python就别谈AI,反之亦然?

为什么所有AI大模型背后&#xff0c;都站着一个叫的“隐形王者”&#xff1f;你有没有发现一个奇怪的现象——想学AI&#xff0c;所有人第一句话都是&#xff1a;“先去学。”想搞大模型&#xff0c;翻遍所有教程&#xff0c;代码示例全是。哪怕是, GPT这般顶级的模型, 其训练代…

作者头像 李华
网站建设 2026/9/3 1:12:47

开源模型防攻击实战:从输入校验到安全部署

开源模型这两年迭代很快&#xff0c;能力越来越强&#xff0c;但安全事件也跟着多了起来。“开源模型未阻止AI攻击事件”这个话题能上热搜&#xff0c;原因不在于某个模型本身有多危险&#xff0c;而在于很多团队把开源模型放进业务时&#xff0c;默认它“开箱即安全”。这个假…

作者头像 李华
网站建设 2026/9/3 1:10:19

SHEPWM Simulink仿真建模:从开关角求解到谐波分析与验证

简介&#xff1a;本资源是一套面向电力电子与电机驱动领域初学者及工程实践者的SHEPWM&#xff08;特定谐波消除脉宽调制&#xff09;教学与仿真工具包&#xff0c;聚焦于低开关频率下高效谐波抑制问题&#xff0c;适用于逆变器控制算法学习、课程设计及科研验证。压缩包共8个文…

作者头像 李华
网站建设 2026/9/3 1:04:51

ECharts自定义地图实战:从GeoJSON数据处理到可视化交互全解析

简介&#xff1a;本资源是一份面向前端开发者与数据可视化工程师的ECharts地图实战示例&#xff0c;聚焦地理空间数据的自定义散点图呈现&#xff0c;解决业务中地图标注不精准、样式不可控、交互缺失等常见痛点&#xff0c;适用于疫情分布、物流轨迹、门店选址等地理信息分析场…

作者头像 李华
网站建设 2026/9/3 1:04:09

MiniMax H3实战:整合Skills、Turbo与Lora的工程化指南

最近在折腾 MiniMax H3 的本地部署和提示词工程&#xff0c;先后踩了不少坑&#xff0c;也把官方新出的 Skills 写提示词、Turbo 推理加速、Lora 微调这几条链路完整跑了一遍。整体看下来&#xff0c;MiniMax H3 确实不是简单的大模型更新&#xff0c;更像是一套把“提示词编写…

作者头像 李华