——从一次ROS2机器人系统调试经验谈起在使用AI辅助复杂系统调试（如ROS2机器人开发）时，许多人会发现一个反复出现的现象：提示词写得越长、细节越多，AI给出的方案看似越专业，却往往在关键环节失灵。问题不是AI不够聪明，也不是提示不够好，而是我们对“AI到底能做什么、不能做什么”存在认知偏差。
一、调试过程的真实结构：人类与AI的分工天然不同
一次典型的复杂调试，通常遵循以下步骤：
- 明确整体结构：先静下心，将系统拆成模块，划清问题边界。
- 确定调试路径：为每个模块设计验证方式，确保这一步不用担心下游效果。
- 迭代执行与观察：运行代码、查看日志、发现新现象。
- 中途补充信息：根据实际运行结果，不断向自己（或AI）提供新的具体约束。
- 与相关方交流：和团队、文档、社区讨论过程细节。
- 最终定位并修复。
这个过程的核心在于第3和第4步：目标在执行中逐步清晰。初始描述必然是抽象的（“让机器人平稳导航”），而真正决定成败的具体约束（坐标变换错误、话题频率不匹配、传感器延迟）只有运行后才会浮现。这些信息不可能在一开始就写进提示里——除非你已经知道答案。
二、AI能做什么：
- 快速定位潜在问题给出清晰的错误日志或代码片段后，AI能在几秒内列出历史上最常见的几种原因，远超人类手动搜索速度。
- 加速局部调试生成测试代码、修改参数、提供替代实现方案，大幅降低试错成本。
- 实现具体功能只要目标明确（如“用Python写一个订阅/ laser_scan 的回调”），AI的完成质量往往高于平均开发者。
这三项能力建立在AI强大的模式匹配与生成能力之上，是它作为工具的核心价值。
三、AI难以独立完成的一件事：问题筛查与目标对齐
当我们试图让AI“独立诊断整个系统”或“帮我找出所有可能的bug”时，问题就出现了。根本原因在于：
目标对齐是一个动态涌现的过程。
- 人类在脑中天然运行着一个“闭环”：观察 → 假设 → 验证 → 新观察 → 修正假设。这个循环高度依赖实时反馈和隐性知识。
- AI的推理基于静态上下文。它可以根据你提供的历史对话生成下一步方案，但无法自主判断“这个方案是否更接近我真正想要的结果”，因为“真正想要的结果”中有大量无法预先语言化的部分。**简单说：你一开始不知道问题到底长什么样，就无法完整描述给AI；而AI也没有能力在没有新反馈的情况下，自己“跑一跑看看”再回来修正方向。**这不是当前模型的偶然局限，而是协作模式的结构性约束——类似于图灵停机问题的实践版：AI无法预知所有可能的执行路径并自行收敛到正确的那一条。
四、正确的协作模式：人类主导目标，AI加速执行最高效的做法是明确分工：
- 人类负责：
- 高层目标的持续澄清
- 中途涌现信息的补充 - 最终方案的判断与选择
- AI负责：
- 在每轮明确上下文后，快速生成多种候选方案
- 执行重复性高、规则明确的子任务
实际操作中，就是多轮交互：
- 你描述当前现象 + 已知约束 → AI给出3-5种可能原因与验证方法
- 你运行验证 → 反馈新结果 → AI基于新结果继续推进这样既发挥了AI的速度优势，又避开了它的盲区。
五、结语AI不是万能的调试伙伴，而是一个极强的“执行加速器”。
它能帮你跑得更快，但方向盘必须握在人类手里。认清这个边界，不是降低对AI的期待，而是找到真正高效的协作方式。当我们把“筛查问题、动态对齐目标”留给人类，把“快速试错、方案生成”交给AI时，复杂系统的调试效率才能真正实现跃升。未来的Agent系统或许能通过自动运行测试、调用工具来模拟部分闭环，但核心目标的涌现性判断，依然离不开人的介入。工具再强大，也只是工具。 真正决定结果的，永远是使用工具的人如何理解自己的需求，并持续把这种理解清晰地传递下去。
