DualSG：不做端到端预测器、让LLM以时序caption显式引导预测的双流多变量预测框架-平芜编程栈

摘要

多变量时序预测在众多应用中起关键作用。近期工作探索用大语言模型做MTSF以利用其推理能力，但许多方法把LLM当作端到端预测器，常导致数值精度损失、并迫使LLM处理超出其设计的模式；另一些试图在隐空间对齐文本与时序模态的方法，则频繁遭遇对齐困难。

本文提出不把LLM当作独立预测器，而是作为双流框架中的语义引导模块。DualSG提供显式语义引导，LLM充当语义引导器（Semantic Guide）来精炼而非替代传统预测。作为框架一部分，提出Time Series Caption这一显式prompt格式，用自然语言总结趋势模式、为LLM提供可解释上下文，而非依赖文本与时序在隐空间的隐式对齐；还设计caption引导的融合模块，显式建模变量间关系，同时降低噪声与计算。

跨领域真实数据集上的实验表明，DualSG一致优于15个SOTA基线，展示了把数值预测与语义引导显式结合的价值。

Q1：这个模型试图解决什么问题？

核心问题是：LLM用于多变量时序预测的两条主流路线都有硬伤——把LLM当端到端预测器会损失数值精度、迫使其处理不擅长的数值模式；在隐空间对齐文本与时序模态则对齐困难。

图注：LLM用于MTSF的三种范式。(a)LLM-only Forecasting：把时序当自然语言直接预测，存在数值不精确（Numerical Imprecision）；(b)LLM-align Forecasting：在隐空间对齐文本与时序，存在任务错配（Task Mismatch）与对齐困难（Alignment Difficulty）；(c)本文的LLM-guided双流：数值预测流与文本推理流分工，LLM冻结、只做引导。

1.LLM-only的问题：把数值序列重写成文本token、让LLM直接输出预测，LLM本质上为自然语言处理设计、不擅长逐点数值运算，导致数值精度损失；

2.LLM-align的问题：在隐空间对齐两种模态，但token信息密度随尺度与周期变化，文本与时序难以稳定对齐；

3.本文立场：采用显式对齐（句子级、显式prompt），让LLM做它擅长的推理与总结、把数值预测留给专用模型。

图注：三类prompt示例（Table 1）。LLM-only把逐日数值全部罗列给LLM；LLM-align只给“rise/up/down/steady/top”等离散词；本文LLM-guided用一句caption概括趋势：“序列从起点到终点逐渐下降、末端走平”。

Q2：相关研究

LLM-based时序预测

LLM-only类（如GPT4TS等）重写时序、让LLM直接预测；LLM-align类在隐空间对齐模态。二者分别面临数值不精确与对齐困难。代表性LLM基线包括CALF、TimeLLM、GPT4TS等。

传统多变量预测

CNN类（TimesNet、MICN）、MLP类（DLinear、TimeMixer）、Transformer类（PatchTST、iTransformer、FEDformer、Crossformer、Non-stationary Transformer、DUET）等是主要的非LLM基线，分别在时间建模与变量交互上各有侧重。

Q3：作者是如何解决的？

框架总览

图注：DualSG框架总览。Input经趋势分解进入Dual Stream：数值流用MAP（多尺度自适应patching）选patch、经Patch Embedding与Time Series Encoder；文本流经Time Series Caption模块生成caption；Semantic Guided Fusion中SemFuse做语义通道融合、Cross Modality Projection结合冻结LLM；最后TS Forecasting输出预测序列。

数值预测流

数值流先对输入X∈R^(N×T)用MAP（Multi-scale Adaptive Patching，多尺度自适应patching）提取多尺度时间patch，自适应掩码模块依据重要性图选择patch，再经Patch Embedding与时间编码器生成基础预测Ŷbase=TemporalEncoder(P)（式21）。MAP相比均匀patching能自适应覆盖多尺度感受野。

文本推理流：Time Series Caption生成（TSCG）

文本推理流从原始时序提取高层语义模式，这是首个用时序caption直接增强预测的工作，核心是TSCG模块，把时序片段转成自然语言摘要、作为语义prompt引导LLM精炼趋势级预测。由于缺乏公开的时序caption生成模型，作者设计轻量encoder-decoder、在大规模混合领域时序上预训练。

Patch Embedding把序列切成重叠patch、线性投影并加位置编码（式7）；K层Transformer编码器做层次时间编码（式8–10）；Time-to-Text自注意力不依赖外部文本query、仅基于时序特征计算（式11–13），直接把时间信号注入GPT2解码器；caption以自回归方式解码（式14–16），用交叉熵训练（式17），推理时可对未见模式zero-shot生成caption。

caption（TSC）在三个维度编码趋势语义：方向direction（rising/falling）、强度intensity（sharp/gradual）、时间转换temporal transition（followed by/then），为长程预测提供可控、可解释的语义正则。

语义修正项

caption经冻结LLM编码后，投影为分段常数的语义修正项ΔŶ=Repeat(LayerNorm(ReLU(W·LLM(S)+b)))（式22），Repeat把每个语义单元扩展到固定区间、隐式建模周期性。

双流融合一：SemFuse语义通道融合

SemFuse用caption作语义锚点构建可解释的通道间依赖，分三阶段：语义相关投影用冻结LLM编码caption、经sigmoid得通道相关分gn,i（式18）；稀疏top-K选择构造二值掩码、只保留最相关的K个通道（式19）；门控通道融合按相关分加权聚合所选通道（式20）。相比全成对注意力与静态聚类，SemFuse是一次性、caption引导的稀疏通路，更高效、可解释、对局部波动更鲁棒。

双流融合二：跨流动态融合

第二阶段用可学习注意力权重WSTAM自适应平衡两股流（式23）：Ŷ=WSTAM⊙Ŷbase+(1-WSTAM)⊙ΔŶ，在保持数值精度的同时引入语义修正、缓解趋势级偏差，提升分布漂移下的鲁棒性。

Q4：实验效果如何？

数据集、基线与设置

在Time Series Library的12个常用多变量数据集上评估，包括Weather、Traffic、Electricity、Solar-Energy与四个ETT变体；基线15个，覆盖CNN、MLP、Transformer与LLM四类。训练阶段TSCG冻结、仅用于推理生成caption，PyTorch实现、Adam+余弦退火、L1损失、4张A800 GPU，指标为MSE与MAE。

主结果：长期预测

图注：长期预测完整结果（H∈{96,192,336,512}，最优加粗、次优下划线）。DualSG在8个数据集上几乎全面占优，1st Count行显示DualSG共65次取得最优，远超CALF（8次）、DUET（10次）等所有基线。

相比次优LLM基线CALF，DualSG在8数据集上平均MSE降低11.3%、MAE降低9.8%；Solar-Energy上MSE降低40.7%（0.192对0.324），体现语义引导通道融合的效果，并一致优于最强非LLM基线DUET。

分析一：语义通道融合的鲁棒性

在通道相关较弱的ETTm2上，DualSG取得MSE 0.254，优于Crossformer（1.216，降低79.1%）与PatchTST（0.285，降低10.9%），避免了对虚假依赖的过拟合；在非平稳数据集上，相比FEDformer，DualSG在Traffic上MSE降低35.1%、Weather上降低26.2%，主要受益于语义流的高层趋势修正。

消融一：各模块贡献

图注：模块消融（各预测步长平均）。对比完整DualSG与去掉TSCG、MAP、SemFuse、LLM四个变体；去掉任一模块性能都下降，完整DualSG在ETTh1（.414/.422）、ETTm2（.254/.308）、Weather（.228/.260）等全部最优。

去掉TSCG在Weather等非平稳数据集上下降最明显，验证语义趋势抽象的价值；把MAP换成均匀patching在ETTm2等高频序列上受损，体现多尺度自适应建模；用全注意力或静态聚类替换SemFuse会增加成本、降低精度；LLM最不重要，因为它只做推理总结、TSCG生成的caption已含足够信息。

消融二：prompt策略对比

图注：六种prompt策略消融。柱状（右轴Counts）为各prompt取得最优的次数，折线（左轴MSE）为跨数据集平均MSE；本文Caption柱最高（约33次）、平均MSE最低，Timestamp次之。

在domain、timestamp、statistics、instruction、external、caption六类prompt中，caption一致最优、平均MSE最低、最优次数最多；timestamp排第二、印证时间标记的作用；其他prompt语义丰富度或上下文相关性不足，external因缺少时间对齐配对数据而排除。

消融三：六类prompt明细

图注：六类prompt明细（Table 3）：Domain给领域背景、Timestamp罗列时间与数值、Statistics给统计量、Instruction给任务指令、External给无关外部文本、Caption用一句话概括趋势。

分析二：分解组件上的对比

图注：Weather上趋势/季节/残差三组件的平均MAE及相对DualSG的偏差。DualSG趋势MAE最低（0.239），DLinear高20.9%、PatchTST高13.8%、TimesNet高10.0%；季节与残差上各方法接近。

得益于双流协作，DualSG在最依赖长期模式建模的趋势组件上改进最显著，趋势MAE最多降低20.9%，说明caption引入的高层语义推理有效补充了数值建模；季节指标略差归因于固定回看窗口96、限制了对重复模式的捕捉。

分析三：训练与推理效率

图注：训练与推理效率（ETTh2）。DualSG训练47.1分钟、推理11.7秒、MSE .284；缓存预编码后训练仅13.3分钟、精度不变；TimeCMA训练59分钟，TimeLLM训练95分钟、推理90.8秒。

缓存预编码时序可大幅缩短训练时间、又不牺牲精度；DualSG相比TimeLLM等LLM方法训练与推理开销都更低，同时误差更小。

分析四：STAM注意力与不同LLM/patch

图注：ETTh1上不同预测长度（96/192/336/720）的STAM热力图，横轴为多个预测时间点的平均值、纵轴为不同通道；随预测长度增加，少数通道的重要性增强、呈现分组选择。

附录还比较了16/24/36/48四种固定patch长度（可能忽略变化的时间模式），以及GPT2、BERT、DeepSeek-R1、Qwen2.5-3B、LLaMA2-7B、LLaMA3.2-3B六种LLM骨干，实验发现GPT2效果最好。

Q5：有哪些可以继续探索的点？

1.扩展到更复杂的多模态时序：作者在结论中计划把该范式推广到更复杂的多模态时序，可纳入事件、图像、文本等更多模态；

2.caption生成的自动化与丰富度：可改进TSCG，让caption覆盖多周期、突变、异常等更细粒度结构，减少对预定义趋势词表的依赖；

3.patch与LLM骨干自适应：固定patch长度与LLM骨干目前靠经验选择，可研究按数据特性自适应确定；

4.季节/残差精度补强：趋势增强可能轻微牺牲季节精度，可研究更长回看或解耦的双流权重，兼顾三类组件。

Q6：总结

DualSG面向多变量时序预测，核心洞察是LLM不擅长逐点数值运算、却擅长高层推理与总结；把LLM当端到端预测器会损失数值精度，在隐空间做模态对齐又对齐困难。

它把LLM重新定位为语义引导器：文本流通过TSCG把时序转成趋势caption（方向、强度、时间转换），经冻结LLM得到语义修正项；SemFuse用caption做稀疏、可解释的通道融合；跨流动态融合用可学习权重把数值预测与语义修正显式结合。在12个数据集上，DualSG以65次最优一致超越15个SOTA基线，并在趋势组件与训练效率上优势明显，验证了“数值预测＋显式语义引导”这一路线的价值。