DeepSeek-R1 与 OpenAI o3 的启示：Test-Time Compute 技术不再迷信参数堆叠

过去2年，整个行业仿佛陷入了一场参数竞赛，每一次模型发布的叙事如出一辙：“我们堆了更多 GPU，用了更多数据，现在的模型是 1750 亿参数，而不是之前的 1000 亿。”

这种惯性思维让人误以为智能只能在训练阶段“烘焙”定型，一旦模型封装发布，能力天花板就被焊死了。

但到了 2025 年，这个假设彻底被打破了。

先是 DeepSeek-R1 证明了只要给予思考时间，Open-weights 模型也能展现出惊人的推理能力。紧接着 OpenAI o3 登场，通过在单个问题上消耗分钟级而非毫秒级的时间，横扫了各大基准测试。

大家突然意识到我们一直优化错了变量。技术突破点不在于把模型做得更大，而在于让模型在输出结果前学会暂停、思考和验证。

这就是 Test-Time Compute（测试时计算），继 Transformer 之后，数据科学领域最重要的一次架构级范式转移。

推理侧 Scaling Law：比 GPT-4 更深远的影响

以前我们奉 Chinchilla Scaling Laws 为圭臬，认为性能严格受限于训练预算。但新的研究表明，Inference Scaling（训练后的计算投入）遵循着一套独立的、往往更为陡峭的幂律曲线。

几项关键研究数据揭示了这一趋势：

arXiv:2408.03314 指出，优化 LLM 的测试时计算往往比单纯扩展参数更有效。一个允许“思考” 10 秒的小模型，其实际表现完全可以碾压一个瞬间给出答案但规模大 14 倍的巨型模型。

实战数据也印证了这一点。2025 年 1 月发布的 DeepSeek-R1，其纯强化学习版本在 AIME 数学基准测试中，仅通过学习自我验证（Self-Verify），得分就从 15.6% 暴涨至 71.0%；引入 Majority Voting（多数投票）机制后，更是飙升至 86.7%。到了 4 月，OpenAI o3 在 AIME 上更是达到了惊人的 96.7%，在 Frontier Math 上拿到 25.2%，但代价是处理每个复杂任务的成本超过 $1.00。

结论很明显：在推理阶段投入算力的回报率，正在超越训练阶段。

新的“思考”格局

到了 2025 年底，OpenAI 不再是唯一的玩家，技术路径已经分化为三种。

这里需要泼一盆冷水：Google 的 Gemini 2.5 Flash Thinking 虽然展示了透明的推理过程，但当我让它数“strawberry”里有几个 R 时，它自信满满地列出逻辑，最后得出结论——两个。这说明展示过程不等于结果正确，透明度固然好，但没有验证闭环（Verification Loop）依然是徒劳。

在效率方面，DeepSeek-R1 的架构设计值得玩味。虽然它是一个拥有 6710 亿参数的庞然大物，但得益于 Mixture-of-Experts (MoE) 技术，每次推理仅激活约 370 亿参数。这好比一个存有 600 种工具的巨型车间，工匠干活时只取当下最顺手的 3 件。这种机制让它的成本比 o1 低了 95% 却保持了高密度的推理能力。正是这种 MoE 带来的经济性，才让超大模型跑复杂的多步 Test-Time Compute 循环在商业上变得可行。

现成的工程模式：Best-of-N with Verification

搞 Test-Time Compute 不需要千万美元的训练预算，甚至不需要 o3 的权重。其核心架构非常简单，普通开发者完全可以复刻。

核心就三步：

1. Divergent Generation（发散生成）：提高 Temperature，让模型对同一问题生成 N 种不同的推理路径。
2. Self-Verification（自我验证）：用模型自身（或更强的 Verifier）去批判每一个方案。
3. Selection（择优）：选出置信度最高的答案。

学术界称之为Best-of-N with Verification，这与论文 [s1: Simple test-time scaling (arXiv:2501.19393)] 的理论高度吻合。

你只需要任何一个主流 LLM API（OpenAI, DeepSeek, Llama 3 均可）、几分钱的额度和一个简单的 Python 脚本。

代码实现如下：

import os import numpy as np from typing import List from pydantic import BaseModel, Field from openai import OpenAI client = OpenAI(api_key=os.getenv("OPENAI_API_KEY")) # 1. Define structure for "System 2" thinking class StepValidation(BaseModel): is_correct: bool = Field(description="Does the solution logically satisfy ALL constraints?") confidence_score: float = Field(description="0.0 to 1.0 confidence score") critique: str = Field(description="Brief analysis of potential logic gaps or missed constraints") # 2. Divergent Thinking (Generate) def generate_candidates(prompt: str, n: int = 5) -> List[str]: """Generates N distinct solution paths using high temperature.""" candidates = [] print(f"Generating {n} candidate solutions with gpt-4o-mini...") for _ in range(n): response = client.chat.completions.create( model="gpt-4o-mini", # Small, fast generator messages=[ {"role": "system", "content": "You are a thoughtful problem solver. Show your work step by step."}, {"role": "user", "content": prompt} ], temperature=0.8 # High temp for diverse reasoning paths ) candidates.append(response.choices[0].message.content) return candidates # 3. Convergent Thinking (Verify) def verify_candidate(problem: str, candidate: str) -> float: """ Uses the SAME small model to critique its own work. This proves that 'time to think' > 'model size'. """ verification_prompt = f""" You are a strict logic reviewer. Review the solution below for logical fallacies or missed constraints. PROBLEM: {problem} PROPOSED SOLUTION: {candidate} Check your work. Does the solution actually fit the constraints? Rate the confidence from 0.0 (Wrong) to 1.0 (Correct). """ response = client.beta.chat.completions.parse( model="gpt-4o-mini", # Using the small model as a Verifier messages=[{"role": "user", "content": verification_prompt}], response_format=StepValidation ) return response.choices[0].message.parsed.confidence_score # 4. Main loop def system2_solve(prompt: str, effort_level: int = 5): print(f"System 2 Activated: Effort Level {effort_level}") candidates = generate_candidates(prompt, n=effort_level) scores = [] for i, cand in enumerate(candidates): score = verify_candidate(prompt, cand) scores.append(score) print(f" Path #{i+1} Confidence: {score:.2f}") best_index = np.argmax(scores) print(f"Selected Path #{best_index+1} with confidence {scores[best_index]}") return candidates[best_index] # 5. Execute if __name__ == "__main__": # The "Cognitive Reflection Test" (Cyberpunk Edition) # System 1 instinct: 500 credits (WRONG) # System 2 logic: 250 credits (CORRECT) problem = """ A corporate server rack and a cooling unit cost 2500 credits in total. The server rack costs 2000 credits more than the cooling unit. How much does the cooling unit cost? """ answer = system2_solve(problem, effort_level=5) # Increased effort to catch more failures print("\nFINAL ANSWER:\n", answer)

实测案例：“服务器机架”陷阱

我在认知反射测试（Cognitive Reflection Test）的一个变体上跑了这个脚本。这是一种专门设计用来诱导大脑（和 AI）做出快速错误判断的逻辑题。

题目是：“总价 2500，机架比冷却单元贵 2000，冷却单元多少钱？”System 1（直觉）几乎总是脱口而出500（因为 2500-2000=500）。System 2（逻辑）才会算出250（x + x + 2000 = 2500）。

运行结果非常典型：

System 2 Activated: Effort Level 5 Generating 5 candidate solutions... Path [#1](#1) Confidence: 0.10 <-- Model fell for the trap (500 credits) Path [#2](#2) Confidence: 1.00 <-- Model derived the math (250 credits) Path [#3](#3) Confidence: 0.00 <-- Model fell for the trap ... Selected Path [#2](#2) with confidence 1.0

注意

Path [#1](#1)

。在常规应用中，用户直接拿到的就是这个 500 credits（错误） 的答案。通过生成 5 条路径，我们发现 40% 的结果都掉进了陷阱。但关键在于，作为验证者的同一个小模型，成功识别了逻辑漏洞，并将包含正确推导的

Path [#2](#2)

捞了出来。

仅仅是“多想一会儿”，一个可靠性 60% 的模型就被强行拉到了 100%。

算力经济账

这肯定更贵。但值不值？

我的实验成本确实增加了 40 倍，但别忘了绝对值只有 3 美分。这 3 美分换来的是 22% 的准确率提升。如果你在做医疗推理或生产环境 Debug，这简直是白菜价；如果你只是做个闲聊机器人，那确实是贵了。

新的模型：Inference Budget

展望 2026 年，架构讨论的焦点将从“谁的模型更聪明”转移到“我们的推理预算（Inference Budget）是多少”。

未来的决策可能会变成这样：

• System 1 (Standard API)：延迟要求 < 2秒，或者搞搞创意写作。
• System 2 (DeepSeek-R1 / o3)：准确性至上（数学、代码、逻辑），且能容忍 10-30 秒的延迟。
• System 3 (Custom Loops)：需要形式化保证，必须依赖多 Agent 投票和验证的关键决策。

建议大家把上面的代码拷下来跑一跑，找一个你现在的 LLM 经常翻车的逻辑题或冷门 Bug 试一下，看着它实时自我修正。

你会发现，我们不该再把 LLM 当作“神谕（Oracle）”，而应将其视为预算可配置的“推理引擎”。懂 Inference-time compute 的数据科学家，才是 2026 年定义下一代 AI 产品的人。

相关阅读：

• Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters(arXiv:2408.03314).
• s1: Simple test-time scaling(arXiv:2501.19393).
• DeepSeek AI (2025)—DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning(arXiv:2501.12948).

https://avoid.overfit.cn/post/a2f09be2577e48b59d2f9f2fc5e6549c

作者：Cagatay Akcam