1. 从“单车智能”到“群体智能”:自动驾驶范式转移的必然
如果你最近在关注自动驾驶的前沿动态,可能会发现一个明显的趋势:无论是学术界的顶会论文,还是产业界的路测新闻,讨论的焦点正从“我的车有多聪明”悄然转向“我们的车如何一起聪明”。这背后,是“单车智能”范式在应对复杂、动态的真实世界时,逐渐显露出的天花板。一辆车再强大,它的感知范围受限于传感器,它的决策基于局部信息,就像一个视力再好、反应再快的短跑运动员,在拥挤的十字路口,也无法预知从盲区突然冲出的车辆。而“协同多智能体”的思路,则试图让车辆之间“开口说话”,共享感知、意图和规划,形成一个具备“群体智能”的交通系统。
CMU-Drive 和 V2V-VLA 这两个名字,正是这一前沿探索中的代表性工作。它们并非孤立的技术点,而是一个连贯的研究叙事:前者提供了一个用于训练和评估“协同驾驶”智能体的统一仿真基准,后者则提出了一种实现这种协同的具体技术路径——基于视觉-语言-动作(Vision-Language-Action, VLA)模型的车辆间(Vehicle-to-Vehicle, V2V)通信与协作框架。简单来说,CMU-Drive 是“考场”和“训练场”,定义了协同驾驶要解决什么问题、如何评价好坏;而 V2V-VLA 是“考生”和“训练方法”,提出了一种让车辆通过自然语言进行高效协作的新模型。
这个组合拳直指当前自动驾驶研发的几个核心痛点。首先是长尾场景。极端天气、罕见交通参与者、复杂博弈场景,靠单车收集数据穷举几乎不可能。协同感知可以瞬间扩大单车的“视野”,让车辆提前感知到视线外的风险。其次是通行效率。无信号灯路口的多车博弈、高速匝道汇流,如果车辆能提前协商通行顺序,就能大幅减少停顿和冲突。最后是安全冗余。当某辆车的传感器短暂失效时,它可以从邻居车辆获取关键的环境信息,实现“盲开”下的安全托管。
因此,理解 CMU-Drive 和 V2V-VLA,不仅仅是了解两个新工具,更是理解下一代自动驾驶系统可能长什么样。它意味着算法架构要从封闭的端到端模型,转向开放的、支持智能体间通信的架构;也意味着仿真测试要从考核单车性能,转向考核多车系统的整体涌现行为。接下来,我们将深入这个“考场”和“考生”的内部,看看它们是如何具体工作的。
2. CMU-Drive 基准:为协同驾驶量身定制的“度量衡”
在深入技术细节前,我们必须先理解一个好的基准(Benchmark)为何如此重要。在机器学习领域,基准定义了任务、提供了数据、设定了评价标准,它像一根指挥棒,引导着整个社区的研究方向。ImageNet 推动了计算机视觉的深度学习革命,Atari Games 和 MuJoCo 推动了强化学习的发展。对于协同驾驶这样一个新兴领域,缺乏一个公认的、全面的基准,会导致研究碎片化——大家在不同的仿真器、不同的场景、不同的指标下各说各话,结果难以复现和比较。CMU-Drive 的提出,正是为了填补这一空白,为协同多智能体驾驶研究提供一个统一的“起跑线”。
2.1 核心设计哲学:从“孤立决策”到“联合优化”
传统的自动驾驶仿真基准,如 CARLA 中的大多数挑战,本质上是为单个智能体设计的。即使场景中有其他车辆,它们也通常被设置为由规则控制的背景车(NPC),智能体与它们之间没有真正的“协作”可言,更多的是“避让”或“博弈”。CMU-Drive 的设计哲学发生了根本转变:它将交通流中的一组车辆建模为一个需要协作的智能体群体,它们的联合目标是优化某个全局指标,例如所有车辆的总通行时间、整体安全性或交通流畅度。
为了实现这一点,CMU-Drive 构建了一个支持多智能体训练的仿真环境。它通常基于一个成熟的仿真平台(如 CARLA 或 MetaDrive)进行二次开发,关键创新在于其场景定义和任务设置:
协作导向的场景库:基准中包含了大量天然需要协作才能高效、安全通过的场景。例如:
- 无保护左转群组:多辆车从不同方向同时进行无保护左转,它们需要协商路权,决定穿插通过的顺序,而不是僵持或冒险抢行。
- 密集环岛通行:多辆车同时进入环岛,需要协调切入和驶出的时机,以避免环岛内部锁死。
- 高速公路协同变道:一个车队需要整体向左变道以避开前方事故,领头车与跟随车之间需要传递意图,并协调变道节奏,避免链式反应导致危险。
- 交叉路口信号灯失效:模拟信号灯故障,完全依靠车辆间的相互通信和协商来维持路口秩序。
分层的任务与评估指标:CMU-Drive 不会只用一个“成功率”来概括一切。它设计了一套分层的评估体系:
- 安全性指标:碰撞率、侵入人行道或逆行等交通违规次数、与行人/非机动车的危险距离。
- 效率指标:场景完成时间、平均速度、停车次数与时长、整体交通流的吞吐量。
- 协作质量指标:这是其精髓。例如,通信效率(发送的消息是否必要且精简)、意图预测一致性(A车对B车意图的预测,与B车实际行为的吻合度)、联合动作的平滑度(多车动作序列是否看起来像一个协调的整体,而非各自为政的机械运动)。
- 舒适性指标:加速度、加加速度(Jerk)的变化,直接影响乘员体验。
支持异构智能体与真实通信模拟:基准允许接入不同能力的智能体(有的感知强,有的规划强),并可以模拟真实的 V2X 通信特性,如延迟、丢包、带宽限制。这迫使研究必须考虑在非理想通信条件下的协作鲁棒性。
2.2 基准的技术实现与使用挑战
从技术实现上看,CMU-Drive 需要解决几个关键问题。首先是场景的可重复性与随机性平衡。为了公平比较不同算法,每次测试的初始条件(车辆位置、速度)需要可设定种子(Seed)进行复现。但同时,为了评估泛化能力,又需要在道路拓扑、交通密度、天气条件等方面引入足够的随机性。CMU-Drive 通常会提供一个场景生成器,允许研究者按需生成不同难度的测试集。
其次是智能体接口的标准化。它定义了统一的 API,用于接收观测(如多传感器数据、邻居车辆的状态信息)、发送动作(控制指令)以及进行通信(发送和接收消息)。这确保了不同团队开发的算法可以“即插即用”地进行比较。
然而,使用这样的基准也面临挑战。最大的挑战是计算成本。训练和评估多个智能体,其复杂度随智能体数量呈指数级增长。即使使用仿真,一次大规模多车协同场景的模拟也需要消耗大量的计算资源。此外,设计真正具有区分度的协作指标本身就是一个研究难题。如何量化“协作得好”而不是“单纯开得好”,需要深入理解交通流理论和社会行为学。
提示:对于想入门的研究者或工程师,不要一上来就试图在 CMU-Drive 的所有场景上跑通算法。建议从一个最简单的场景开始,比如两车在无信号路口的交叉通行,先实现基本的意图共享和避碰,再逐步增加车辆数量和场景复杂度。理解基准提供的日志和评估工具,比盲目跑实验更重要。
3. V2V-VLA 模型:让车辆用“语言”达成共识
有了 CMU-Drive 这个“考场”,我们来看一位特别的“考生”——V2V-VLA 模型。它的核心思想非常直观:既然人类驾驶员通过眼神、手势和喇叭(一种简单的声音信号)就能完成大量协作,那么让自动驾驶车辆之间使用一种更丰富、更精确的“语言”进行交流,是否能让协作效率产生质的飞跃?V2V-VLA 给出的答案是肯定的,并且它选择“自然语言”作为这种通信的媒介。
3.1 为什么是“语言-动作”模型?
传统的协同驾驶方法,车辆间共享的信息往往是高度结构化、低维度的数据,比如:
- 原始或处理后的感知数据(点云、边界框)。
- 规划轨迹的路径点序列。
- 离散的意图标签(如“直行”、“左转”、“变道”)。
这些方式各有局限。共享原始数据带宽要求高且可能暴露隐私;共享轨迹不够灵活,一旦环境变化就需要重新规划;离散标签信息量太少,无法表达“我打算在你后面一点变道”或“前方有施工,建议你走左车道”这样的复杂意图。
自然语言,作为一种高度压缩、富含语义、且人类天生擅长理解和生成的信息载体,提供了新的可能。V2V-VLA 模型受启发于大语言模型(LLM)在推理和规划任务上展现出的惊人能力,试图构建一个“视觉-语言-动作”的闭环:
- 视觉(Vision):每个车辆通过自身的摄像头等传感器,感知周围环境,形成视觉特征。
- 语言(Language):基于自身的视觉理解和内部状态(如目标路线),车辆生成一段描述自身意图、观察或建议的自然语言消息,广播给通信范围内的邻居车辆。同时,它也接收并理解来自其他车辆的消息。
- 动作(Action):综合自身的视觉感知和来自其他车辆的语言消息,模型最终输出驾驶控制动作(转向、油门、刹车)。
这个过程模拟了人类驾驶员“观察-思考(形成意图)-沟通-决策-行动”的链条。语言在这里扮演了意图显式化和共同认知对齐的关键角色。
3.2 模型架构与训练范式拆解
一个典型的 V2V-VLA 模型架构包含以下几个核心模块:
视觉编码器:负责处理来自车载摄像头的图像序列。通常使用一个预训练的视觉主干网络(如 Vision Transformer)来提取时空视觉特征。这部分的关键在于,编码器需要学会从图像中提取与驾驶决策和通信相关的特征,而不是所有细节。
语言处理器(核心):这是模型的大脑。它通常以一个大型语言模型(LLM)为核心。LLM 的输入是一个精心设计的提示词(Prompt),其中拼接了多种信息:
- 系统指令:定义车辆的“角色”和任务目标(例如:“你是一辆自动驾驶汽车,目标是在保证安全的前提下高效通过路口。你可以与其他车辆通信以协调行动。”)。
- 视觉描述:由视觉编码器提取的特征,可能通过一个投影层转换后,以某种形式(如离散 Token 或嵌入向量)输入给 LLM。更高级的做法是让 LLM 直接生成对当前视觉场景的文本描述,作为推理的中间步骤。
- 对话历史:之前几轮通信中,自己发送和接收到的消息记录。这为模型提供了上下文,避免重复通信或出现矛盾。
- 内部状态与目标:车辆的当前速度、位置、目的地等。
基于这些输入,LLM 被要求完成两项任务:
- 生成通信消息:输出一段发给其他车辆的自然语言文本。
- 生成动作推理:输出最终驾驶动作(如方向盘角度、加速度)或一个高层决策(如“加速”、“等待”)。动作通常通过一个额外的轻量级动作头(Action Head)来生成,该头以 LLM 的隐藏状态为输入。
训练过程通常是多阶段、混合的:
- 预训练:视觉编码器在大型驾驶数据集(如 BDD100K)上预训练。LLM 部分则使用通用语料和驾驶相关的指令微调数据进行预热,使其理解驾驶领域的术语和任务。
- 模仿学习:在 CMU-Drive 等仿真环境中,使用专家演示(可以是规则控制器,也可以是离线的人类驾驶数据)进行训练。模型学习在给定视觉输入和(模拟的)邻居消息时,输出与专家一致的动作和合理的通信消息。这里的挑战在于,专家演示中通常没有“通信消息”这个标签。一种解决方案是使用 LLM 反向生成:给定专家动作,让一个强大的 LLM 反推出“此时最合理的通信内容是什么”,以此作为通信的监督信号。
- 强化学习微调:在仿真环境中,以 CMU-Drive 的评估指标(如效率、安全)作为奖励信号,对模型进行微调。模型通过与环境的交互,学习何时该通信、该说什么、以及如何根据通信结果调整动作,以最大化长期奖励。这是提升协作能力的关键阶段。
3.3 潜在优势与待解难题
V2V-VLA 路径的优势是诱人的:
- 意图可解释:车辆发出的语言消息是人类可读的,这为调试、验证和监管提供了前所未有的透明度。我们可以直接知道“车辆为什么做出了这个决策”。
- 协作灵活:语言可以表达非常复杂和细粒度的意图与协商,适应开放场景的能力更强。
- 异构系统兼容:理论上,只要大家约定一种通信语言(如英语),不同公司、不同型号的自动驾驶系统都可以进行交互,无需底层数据格式的统一。
但这条路也布满了荆棘:
- 幻觉与误导:LLM 固有的“幻觉”问题在驾驶中可能是致命的。如果一辆车错误地生成了“前方畅通”的消息,可能导致后方车辆危险加速。
- 通信延迟与带宽:自然语言消息比结构化数据体积大,在有限的 V2V 通信带宽和严格的延迟要求下,如何保证实时性?
- 安全与对抗攻击:通信信道是开放的,如何防止恶意车辆发送虚假信息进行“社会工程学”攻击,扰乱整个交通流?
- 评估困难:如何定量评估一条消息的“好坏”?除了最终驾驶效果,消息本身的简洁性、准确性和必要性也需要度量。
注意:在工程化落地中,直接使用原始自然语言进行实时 V2V 通信在短期内不现实。一个更可行的路径是,V2V-VLA 模型作为“意图理解与生成”的大脑,运行在车辆本地。它对外实际发送的,可能是高度压缩的、结构化的“语义编码”,接收方车辆再用自己的 VLA 模型将其解码为可理解的意图。这样既保留了语义协作的优势,又满足了通信的工程约束。
4. 协同驾驶的“大脑”如何工作:从感知到行动的决策闭环
理解了 V2V-VLA 是什么之后,我们更需要深入它的内部,看它在处理一个具体驾驶场景时,信息是如何流动、决策是如何做出的。我们以一个经典的“四向停车路口”(Four-way Stop)场景为例,拆解其工作流程。假设有四辆车 A、B、C、D 同时接近路口。
步骤一:个体感知与初始意图形成每辆车通过自身的视觉编码器,感知环境。A 车“看到”了路口、停止线、以及 B、C、D 车的轮廓和大致位置。基于自身的导航目标(比如要直行),它的 LLM 核心会形成一个初始的内部意图:“我打算在符合规则的前提下,尽快直行通过路口。” 此时,它还没有生成任何对外消息。
步骤二:通信触发与消息生成模型中的“通信策略模块”开始工作。这个模块可能是一个简单的规则(如“当感知到其他车辆且路权不明时”),也可能是一个由强化学习训练出来的神经网络,用于判断“此时发一条消息是否能带来正的预期收益”。对于 A 车,它判断需要通信。于是,LLM 综合当前视觉特征、内部意图和空的对话历史,生成第一条广播消息。这条消息不会是冗长的描述,而可能是高度精炼的,例如:“A 车已抵达,意图直行,等待轮次。”
步骤三:消息接收与联合推理B、C、D 车几乎同时也在进行感知和意图形成。它们都收到了 A 车的消息。现在,每辆车的决策上下文变得丰富了。以 B 车(假设它想左转)为例,它的 LLM 现在的输入包括:自己的视觉感知、自己的左转意图、以及刚收到的消息“A: 直行,等待”。LLM 需要进行多轮推理:
- 理解他车意图:A 要直行。
- 结合交通规则:在四向停车路口,先到先走。如果我和 A 同时到达,直行通常比左转有轻微路权优势?不,严格来说先到先走,需要判断到达顺序。
- 评估当前状态:我和 A 谁的车头更接近停止线?我的传感器可能无法精确判断。
- 生成协商策略:由于路权不明,最安全高效的方式是明确协商顺序。我可以提议一个顺序,或者询问大家的到达时间。
基于此,B 车的 LLM 可能生成并广播消息:“B 车意图左转。我提议按 A、B、C、D 的顺时针顺序通行。请确认。” 这条消息包含了更复杂的协商逻辑。
步骤四:共识达成与动作执行A、C、D 车收到 B 的提议后,各自进行类似的推理。C 车(右转)可能很快回复“C 车同意提议”。D 车和 A 车也回复同意。在这个过程中,LLM 的“对话历史”不断更新,形成了一个临时的“共识上下文”。一旦模型判断共识已达成(例如,收到了所有车辆的确认,或超时后采用了默认规则),它的“动作头”就会基于最终的共识状态(“我是第二个走”)和实时感知(前车 A 已启动),输出具体的控制指令:等待 -> 缓慢滑行至停止线 -> 在 A 车通过后,执行左转。
这个闭环展示了 V2V-VLA 如何将传统的“感知-规划-控制”单链,扩展为“感知-通信-联合推理-规划-控制”的多智能体协同链。语言消息在这里充当了智能体间显式共享心智模型的媒介,极大地减少了因意图不明导致的博弈犹豫和低效。
5. 潜藏的世界模型:VLA 为何具备强大的推理能力
“Enhancing end-to-end autonomous driving with latent world model” 这个网络热词,恰好点破了 V2V-VLA 乃至许多先进驾驶模型能力背后的一个关键假设:一个强大的、隐式的世界模型。这不是一个可触摸的模块,而是指模型在训练过程中,从海量数据里学习到的一套关于物理世界和交通参与者行为如何演化的“内部规律”。
当我们说一个驾驶模型有“常识”或能“推理”时,本质上是指它的内部表征(即 LLM 的隐藏状态空间)形成了一个高质量的世界模型。这个模型允许它进行“心理模拟”:
- 物理规律:知道踩下油门车会加速,转弯时速度太快会侧滑。
- 交通规则与社会规范:知道红灯停、绿灯行,知道在路口要礼让行人,知道堵车时“拉链式”交替通行是高效的做法。
- 其他智能体行为预测:不仅看到旁边车道的车,还能根据它的转向灯、车轮角度、历史轨迹,预测它接下来3秒很可能要变道过来。
在 V2V-VLA 中,这个世界模型的作用被放大了:
- 理解消息的深层含义:当收到消息“前方有事故,小心慢行”时,模型的世界模型会激活关于“事故”的关联知识:可能有碎片、可能有应急车辆、后方车辆可能会急刹。这会让它生成更谨慎的动作,而不仅仅是把“慢行”当作一个简单的速度指令。
- 生成合理且有用的消息:模型要生成对他人有用的消息,必须能推断出“别人不知道什么”以及“别人需要知道什么”。这要求模型不仅知道自己看到了什么,还要能模拟邻居车辆的视角,推断它们的知识盲区。这种“心智理论”能力,正是建立在强大的世界模型之上。
- 进行反事实推理:这是高级协作的关键。“如果我提议按顺序 A-B-C 走,C 车会同意吗?如果 C 车不同意,我有没有备选方案?” 这种对多种可能未来的推演,依赖于世界模型对他人行为模式的模拟。
因此,V2V-VLA 模型的训练,很大程度上是在共同优化两个目标:一是学习驾驶策略(输出正确的动作),二是学习并完善这个隐式的世界模型。大量的驾驶视频和文本数据(如驾驶手册、事故报告、人类对话)被用来“教”模型这个世界的运作方式。一个拥有更精准世界模型的 VLA,其通信和协作能力自然会更强,因为它能更准确地理解场景、预测他人,并生成符合“世界规律”的协作策略。
6. 从仿真到现实:工程化落地的挑战与可行路径
CMU-Drive 和 V2V-VLA 为我们描绘了一幅美好的未来图景,但要从学术论文和仿真环境走向真实道路,还有漫长的工程化道路要走。这条路上有几个必须翻越的“大山”。
挑战一:仿真与现实之间的巨大鸿沟仿真环境再复杂,也是建立在简化的物理引擎和交通行为模型之上的。真实世界的传感器噪声、通信信道的不稳定性、人类驾驶员不按常理出牌的行为、千变万化的道路和天气条件,都是仿真难以完全复现的。在仿真中协作完美的智能体,放到真实世界可能寸步难行。解决之道在于“仿真-现实”闭环迭代和“影子模式”大规模部署。先在仿真中训练和验证核心算法,然后在真实车辆上以“影子模式”运行(即算法做出决策但不实际控制车辆,只记录其决策与人类驾驶员决策的差异),收集海量边缘案例,再反哺仿真环境,使其越来越逼真。
挑战二:通信协议的标准化与安全性V2V-VLA 依赖通信,但今天全球的 V2X 通信标准(如 DSRC, C-V2X)仍在演进和竞争中。自然语言作为一种应用层协议,需要建立在稳定、低延迟、高可靠的底层通信链路之上。更重要的是安全。必须设计一套完整的密码学体系,确保消息的真实性(确实来自某辆合法的车)、完整性(未被篡改)和隐私性(不泄露车辆身份和乘客信息)。此外,还需要研究在部分车辆恶意发送虚假信息(女巫攻击)或通信被干扰的情况下,系统的容错与恢复机制。
挑战三:混合交通流的处理在可预见的未来,道路上将是自动驾驶车、人类驾驶车、网联车、非网联车并存的混合交通流。V2V-VLA 模型如何与“沉默”的人类驾驶员交互?一种思路是让模型学会预测和适应人类行为。即使人类驾驶员不发送消息,VLA 模型也可以通过其视觉感知和世界模型,尽可能准确地预测人类车辆的意图,并生成与之兼容的自身动作和给其他网联车的消息。例如,预测到人类驾驶的车可能强行变道,提前通知后方网联车减速让行。
一个可行的渐进式落地路径可能是:
- 封闭场景先行:在港口、矿区、物流园区等低速、可控的封闭场景率先应用,验证多车协同调度和避碰的基本能力。
- 高速队列跟驰:在高速公路上实现网联自动驾驶卡车车队的协同巡航。车队头车作为“领导者”,通过 V2V 通信将感知和决策信息传递给后车,后车可以缩小跟车距离,节省燃油,这是当前最接近商业化的应用之一。
- 城市特定热点:在经常拥堵的无信号灯路口或施工路段,由路侧单元(RSU)充当“协调员”,接收附近车辆的意图,利用 VLA 类似的算法进行全局优化,再向车辆广播通行建议或指令,实现局部区域的效率提升。
- 全混行城市道路:这是最终目标,需要通信基础设施全覆盖、法规成熟、且技术足够鲁棒后才能逐步实现。
7. 开发与实验指南:如何上手 CMU-Drive 与 VLA 模型
对于研究人员和工程师,如果想亲自探索这个领域,以下是一个实用的入门指南。
环境搭建与 CMU-Drive 基准使用
- 基础环境:确认 CMU-Drive 基准基于哪个仿真平台(如 CARLA)。首先搭建好该仿真环境,确保能成功运行单智能体的基础示例。
- 获取基准:从官方仓库(通常在 GitHub 上)克隆 CMU-Drive 代码。仔细阅读文档,理解其目录结构。核心部分包括:场景定义文件、智能体接口、评估脚本和可视化工具。
- 运行第一个示例:尝试运行基准提供的简单规则智能体(Rule-based Agent)或随机智能体,在某个测试场景中看看效果。使用基准提供的日志和可视化工具,理解其输出的评估指标含义。
- 接入自己的智能体:按照基准的 API 规范,编写你自己的智能体类。这个类需要实现
step方法,接收观测(包含自身感知和可能的邻居信息),返回动作和要发送的消息(如果支持通信)。从一个不通信的简单强化学习或模仿学习智能体开始。
V2V-VLA 模型实践要点
- 模型选型:
- 视觉编码器:可以从在 ImageNet 或驾驶数据集上预训练的 ResNet、EfficientNet 或 Vision Transformer 开始。对于时序信息,可以考虑使用 3D CNN 或 Transformer 编码器处理连续帧。
- 语言模型核心:这是关键。如果计算资源有限,可以从较小的开源 LLM 开始,如 LLaMA 2 7B 或 Vicuna 的某个版本。如果资源充足,可以尝试 Code Llama 或专门为推理任务优化的模型。切记,不要从零开始训练 LLM,一定要基于预训练模型进行微调。
- 训练策略:
- 阶段一:视觉-语言对齐:使用驾驶视频-描述对数据集,训练视觉编码器与 LLM 的连接层,让 LLM 能“看懂”视觉特征。可以冻结 LLM 的大部分参数,只训练连接层和视觉编码器。
- 阶段二:指令微调:使用驾驶指令数据集(例如,将驾驶场景描述作为指令,将驾驶动作作为回复),对 LLM 进行指令跟随微调,使其理解驾驶领域的任务和输出格式。
- 阶段三:协同模仿学习:在 CMU-Drive 中,使用专家演示(可以是规则控制器生成的轨迹)进行训练。这里需要解决通信消息的监督问题。一个实用技巧是:用一个大语言模型(如 GPT-4)作为“注释器”,根据专家动作和场景上下文,反向生成“合理的”通信消息,作为训练标签。
- 阶段四:协同强化学习微调:这是提升协作能力的关键。将整个 V2V-VLA 模型作为一个多智能体强化学习系统,在 CMU-Drive 环境中进行训练。奖励函数的设计至关重要,要平衡安全性、效率指标和通信成本(如惩罚发送过多或无用的消息)。
- 调试与可视化:
- 消息日志:详细记录每个智能体在每一步生成和接收的消息。分析在哪些场景下消息是有效的,哪些是冗余或错误的。
- 注意力可视化:如果使用 Transformer 架构,可以可视化 LLM 在处理消息和生成动作时,其注意力机制聚焦在输入文本的哪些部分,这有助于理解模型的决策依据。
- 对比实验:务必设置消融实验(Ablation Study)。例如,训练一个完全相同的模型但不允许通信(或只允许发送随机消息),与完整的 V2V-VLA 模型对比,量化通信带来的性能提升。
避坑经验分享:
- 通信带宽限制:在仿真中,可以假设理想通信。但在向现实靠近时,早期就要在训练中引入通信约束,例如限制消息长度、添加随机延迟和丢包,让模型学会在有限条件下进行有效沟通。
- LLM 的稳定性:LLM 的生成具有随机性(通过温度参数控制)。在驾驶这种高安全要求的任务中,必须严格控制这种随机性。在部署时,通常将温度设为0(贪婪解码),并使用后处理规则对生成的动作进行合理性检查和安全兜底。
- 计算开销:VLA 模型,尤其是包含大 LLM 的模型,推理速度较慢。需要深入研究模型压缩、知识蒸馏和量化技术,以满足车载计算平台的实时性要求(通常决策周期要求在100毫秒以内)。