货拉拉的同城货运、搬家、拉货业务，每天要面对的是几十万甚至上百万次的用户触达窗口——App弹窗、短信、站内信、朋友圈广告、短视频投放、司机端招募物料，每一个触点背后都是一条广告物料。过去这些物料靠人工写、人工排、人工审，碰上大促节点整个团队连轴转，产出速度永远追不上投放位空缺的速度。我们很早就意识到，营销广告这个场景是大模型落地价值最直观、ROI最容易算清楚的地方，但真正动手做之后才发现，难点根本不在“用大模型写一段文案”，而在于如何把大模型嵌进一条已经有严格流程、强合规要求、且要秒级出结果的业务链路里。
这篇文章不聊理论，只聊实践。我会把我们团队在货拉拉营销广告场景里用大模型踩过的坑、选型的取舍、以及最终沉淀下来的方法论，尽量完整地拆给你看。不管你是做广告投放、用户增长、创意设计，还是正在企业里推大模型落地，这里面的很多经验应该都能直接拿走用。
1. 项目背景与核心痛点拆解
1.1 货拉拉营销广告场景的特殊性
货拉拉的广告业务和传统电商或者本地生活平台有很大不同。它的核心用户是两类人：一类是需要拉货、搬家、送大件物品的C端用户，另一类是每天在路上跑的司机。前者要解决的是“关键时刻想到你”，后者要解决的是“有单愿意接、有激励愿意跑”。这两类人的决策链路差别极大，导致广告物料的生产逻辑完全不同。
C端用户的广告文案不能只写“货拉拉搬家便宜”，因为用户在搬家这个场景下真正关心的是：车多久能到、大件能不能搬、费用会不会临时加价。所以物料必须围绕“确定性”做文章。司机端则更直接，广告文案要能清楚地回答：今天哪个区域单多、跑满几单奖多少钱、新手有什么保底政策。这些信息是高度动态的，每天甚至每小时都在变。
这就引出了第一个核心痛点：广告物料不是一个静态的创意作品，而是一个动态的信息容器。它既要保持品牌调性和转化力，又必须精准嵌入实时运价、活动规则、补贴策略。传统的人工生产方式在这种动态性面前非常吃力，文案写完一版，活动规则已经变了。
1.2 传统广告生产与投放链路踩过的坑
在没有引入大模型之前，我们的完整链路大致是这样的：运营提出活动需求，创意团队写文案，设计出图，审核同学过合规，投放同学配置计划，最后数据回来复盘。这条链路在平时勉强够用，但只要遇到大促，问题就集中爆发。
第一个问题是产能瓶颈。一个大促节点往往需要几百上千套物料组合，每个城市的活动规则还不一样，全靠人来写意味着创意团队必须在两周内完成平时一个月的产出量，结果就是大量物料只能用模板硬套，点开率直线下滑。第二个问题是一致性失控。同一个活动，在App弹窗里写的利益点是“首单立减30”，到了短信里变成了“新人专享5折”，用户看到两个不一样的说法，信任感瞬间就没了。
第三个问题最隐蔽但也最致命：审核压力全压在人身上。广告法对绝对化用语、极限词、金融承诺这些有明确规定，人工审核在高压状态下必然有疏漏。我们曾经因为一条短信里的“最便宜”被渠道处罚，账户权重受损，复盘时才发现这条文案是活动上线前夜赶工出来的，审核同学只睡了三个小时。
1.3 大模型切入的三个最优战场
复盘了上面这些痛点之后，我们把大模型的切入方向收敛到三个战场。
第一个是物料生产端，用大模型做文案初稿、多风格改写、多城市差异化扩展，把人从“从零写起”变成“从好稿子里改”。第二个是用户理解端，用大模型从用户的历史行为、搜索词、联系记录里提取更细粒度的意图标签，让同一套广告素材能够按人群自动重组。第三个是投放决策端，用大模型辅助生成投放策略建议，比如预算分配、人群包建议、出价调整方向，让投放同学从盯数据里解放出来。
选择这三个方向不是因为它们听起来高级，而是因为它们的效果可以被明确量化。物料生产端看的是人均产出提升和审核通过率，用户理解端看的是点击率和转化率的提升，投放决策端看的是ROI和预算消耗进度的变化。这在向业务方和老板汇报时非常重要——大模型项目最怕说不清楚价值。
2. 整体方案设计与技术选型
2.1 私有化部署还是调用公有云API
技术选型的第一道选择题，就是大模型到底用托管的API还是自己部署。坦率讲，我们团队一开始也用过几家头部厂商的API，效果确实好，生成质量稳定，几乎不用调参。但放到货拉拉这个业务场景里，有两个问题绕不开。
第一个是数据合规。广告物料里会包含用户手机号经脱敏后的行为序列、城市维度运营数据、甚至部分司机接单特征，这些数据如果直接发给外部API，内部安全评审很难通过。第二个是成本结构。营销物料的生产往往是有峰谷的，大促前一周产能拉满，平时又很闲，按量付费的API在大促期间的账单会非常难看，而我们自己部署的GPU集群可以在低谷期兼顾其他非实时计算任务。
所以最终方案很明确：核心链路全部私有化部署，非核心辅助场景选择性调用API。所谓核心链路，指的是涉及用户隐私数据、活动价格数据、以及最终对外发布的物料生成；非核心场景比如内部头脑风暴时的文案灵感收集，用外部API反而效果更好，因为模型更大、创意飞得更开。
2.2 基座模型、微调框架与推理部署的选型过程
基座模型的选择没有太多纠结。我们当时在开源的中英双语模型里做筛选，核心衡量标准是三个：中文创意文案能力、指令跟随稳定性、以及社区生态成熟度。综合对比下来，选择了Qwen系列作为主力基座，原因很简单：它的中文语感明显好于同参数规模的通用模型，在“写广告语”这种对语言质量要求高的任务上优势明显，而且从7B到72B都有对应版本，方便我们在不同场景按需切换。
微调方案直接锁定LoRA，没有考虑全参微调。全参微调一个7B模型需要至少4张80G的A100，而且每次调完都可能导致通用能力衰退，我们内部的工具链、评测数据集全都要跟着返工。LoRA只需要训练一个很小的低秩矩阵，一张A100就能跑7B量级的微调，实验周期从一周压缩到几个小时，这对需要频繁迭代的业务场景来说是决定性的。
推理部署我们用了vLLM。换掉之前的FastTransformer部署方案后，单卡吞吐大概提升了三倍。这里有一个关键经验：vLLM并不是所有场景都适合，它通过Continuous Batching把批处理做到了极致，但代价是单请求延迟略有上升。我们的广告物料生成对延迟不敏感，几百毫秒完全可接受，但如果你要做实时对话型客服，可能需要结合Streaming和更激进的调度策略，不能无脑套用。
2.3 大模型与现有广告体系的融合架构
大模型在这个项目里不是替代任何现有系统，而是像一个“智能中间层”插在业务系统和执行系统之间。整体上分成三层。
接入层是各个业务入口，比如运营后台的批量物料生成入口、投放系统的策略建议入口、客服系统的对话入口。模型层是核心，包括基座模型、LoRA微调后的业务模型、以及一个负责检索活动规则和优惠信息的RAG模块。执行层是原有的广告投放平台、CMS内容管理系统和消息推送系统，大模型产出的内容最终都要落到这里进行渲染和分发。
有一个设计上的小细节值得说：大模型生成的文案，我们不会让它直接进入执行层，而是先强制过一道“规则校验服务”。这个服务用传统的关键词匹配和正则把利益点、时间、价格这些字段抽出来，和大模型生成的结果做对比。如果发现不一致，比如活动规则说“首单减30”，文案里写了“立减50”，系统会自动打回重写。这个保守的设计帮我挡掉了至少三次重大的合规事故。
3. 核心场景落地实战拆解
3.1 广告文案与创意物料的批量生成
文案生成是我们第一个上线的能力，也是业务方感知最强的能力。早期我们试过直接让大模型“写一条搬家优惠的广告语”，效果非常不稳定，十次里有六次会写出放之四海而皆准的空话，比如“品质服务，信赖之选”这种看到就想划走的文案。
后面把Prompt完全重构了，核心是给模型一个完整的“信息包裹”。这个包裹里必须包含：活动名称、利益点、目标人群、使用场景、品牌语气要求、以及字数限制。举个例子，我们内部沉淀下来的Prompt结构是这样：
你是货拉拉的营销创意专家，擅长为同城货运场景撰写有转化力的广告文案。 请根据以下信息生成3条不同风格的文案： - 活动名称：新用户首单立减30元 - 目标人群：25-40岁城市租房群体，近期有搬家需求 - 使用场景：App弹窗，字数不超过20字 - 品牌语气：靠谱、直接、少用形容词 - 创作要求：必须突出“首单立减30”这个利益点，不能出现“最便宜”“第一”等极限词这样的Prompt产出质量稳定了很多，但离直接可用还是有距离。真正让质量产生质变的，是后面加了少样本示例。我们在每条Prompt后面固定挂一个“优秀案例”和“失败案例”的对照，把公司内部获奖过的文案和曾经导致审核处罚的文案都放了进去。大模型对“不要做什么”的理解能力，实际上比对“要做什么”的理解能力更强，失败案例的作用比我预想的还要大。
3.2 多模态素材生成与风格控制
文案跑通之后，业务方很快提出新需求：能不能连海报一起做了？他们当时用的是外部设计平台，大促期间设计资源排期要提前两周，非常痛苦。我们于是开始尝试多模态大模型做素材生成，这一个环节的难度比纯文本高了一个量级。
多模态生成的最大问题是品牌一致性。货拉拉的VI色是橙色调，吉祥物形象有固定比例，如果让模型自由发挥，出来的图片经常是“看起来像那么回事，但根本不是我们品牌”。我们试过在Prompt里写“请使用货拉拉的橙色”，模型完全无法理解具体的色号和比例，出来的东西五花八门。
后来我们换了一个思路：不让模型直接生成成品图，而是让模型生成“设计规格说明”，再用模板引擎去渲染。大模型负责的是创意层面的判断，比如根据用户画像决定图片用“搬家场景”还是“省钱场景”，根据投放渠道决定构图的侧重方向，然后把结论转成结构化的JSON，传给模板系统去替换素材和文案。这样做的结果是图片可控性大幅提升，而大模型的创造性也没有被浪费，它在决定“该用哪个模板”这件事上表现得非常出色。
这个案例让我深刻理解了一件事：大模型落地不一定非要“模型直接输出最终交付物”，很多时候把模型当成一个智能决策器，配合传统的确定性系统，才是最稳的组合。
3.3 用户意图识别与个性化投放标签提取
广告物料只是表面的东西，真正决定广告效果的，是对用户的理解。我们原来的用户标签体系是从行为日志里统计出来的，粒度很粗，比如“近期活跃”“曾经浏览过搬家页面”。这类标签无法回答一个关键问题：这个用户到底处在决策的哪个阶段？他是随便看看，还是已经约了其他平台的车？
大模型在这个场景里的用法是：把用户过去七天的行为序列整理成一段文本描述——什么时间点浏览了什么页面、搜索了什么关键词、点击了什么活动、咨询客服时问了什么问题，然后让模型做两件事。第一件事是意图分类，判断用户处于“潜在需求期”“强烈意向期”还是“比价期”；第二件事是生成一段自然语言的用户画像描述，比如“该用户是北京朝阳区租客，可能在月底搬家，对价格敏感，有宠物运输需求”。
这两类输出里，意图分类标签直接用来控制投放策略，画像描述则用来辅助创意人员理解人群。我们做了一个内部叫“一句话人群包”的功能，投放同学不需要再看复杂的标签矩阵，直接读一句话就能决定要不要投这个人群。这个功能上线之后，投放策略的制定效率至少提升了一半。
3.4 营销对话与转化客服场景
营销广告的最后一公里是“对话”。我们很多大促活动会搭配客服或者销售外呼，但人力有限，大量意向用户没法及时跟进。我们做了一个基于大模型的营销对话助手，用在两个地方：一是微信公众号和站内信里的自动回复，二是外呼前对用户可能提出的异议做话术准备。
自动回复这个场景最怕的是模型乱承诺。用户问“我这个小区能送到吗”，模型如果回答“能送”但实际超出配送范围，后果会很严重。我们的解法是把配送范围查询接口做成一个工具调用，模型不能凭空回答这个问题，只能调接口拿到结果之后再组织语言。这里用到了Agent的思维，但做得比较轻，核心就是一个函数调用的约束。
外呼话术准备则完全发挥了大模型的创造力。我们把历史通话记录里用户最常问的30个问题整理出来，让模型针对每个问题结合当次活动的特点生成5种不同风格的应对话术。电销同学说这个功能帮他们省掉了最枯燥的整理工作，可以把更多精力放在那些真正难搞的案子上。
4. 数据准备、微调与效果评估
4.1 训练数据的清洗与构造
微调不是把一堆文案扔给模型就能期待奇迹。我们的数据构造经历了三个阶段，每个阶段都有截然不同的教训。
第一个阶段是直接拿历史投放数据做训练。这个思路听起来合理，但效果很差。原因是历史数据里垃圾占了大部分，那些点击率低、被审核打回的文案也混在里面，模型学会了这些坏例子，生成质量反而比基座模型更差。
第二个阶段是让运营和创意团队人工标注高质量对。我们请了几位资深创意同事，把过去两年表现最好的2000条文案整理成“输入-输出”对，输入包括活动信息和人群信息，输出是最终投放的文案。这批数据质量极高，微调之后模型的转化力明显提升。
第三个阶段是合成数据扩充。人工标注的数据量还是不够，我们让已经微调过一版的模型对同样的输入生成多个不同风格的输出，再由人工从中选出质量高的部分加入训练集。这一步相当于让模型自己当老师，但关键是要有人的筛选这个闭环，否则错误只会被放大。
4.2 微调过程中的关键参数与踩坑记录
真正动手微调之后，踩的坑比预想的多。第一个坑是学习率设置过高导致灾难性遗忘。我们第一次尝试时把学习率设成了2e-4，训练几轮之后模型变得只会写广告语，连基本的“帮我总结这段文字”这种通用指令都不会了。后来我们把学习率降到5e-5，并且混入了5%的通用指令数据，这个现象才得到缓解。
第二个坑是LoRA rank的设置。rank值太小，模型学不住业务表达习惯；rank值太大，微调成本和过拟合风险都会上升。我们反复试下来，8-16之间是7B模型在这个任务上的甜点区，既能保留通用能力，又能学会我们想要的文案风格。
第三个坑是过拟合导致的多样性丧失。训练到某个阶段之后，模型输出的文案越来越像训练集中那些高点击的样本，句式高度雷同，甚至出现整句抄袭的情况。这不仅涉及原创风险，投放效果也会因为同质化而衰减。我们的解决办法是在训练时引入输出多样性作为指标，当相似度超过阈值时就提前停止。
4.3 离线指标与线上AB实验的评估体系
大模型项目的效果评估，如果只看“生成的内容像不像样”，大概率会在业务方那里翻车。我们必须建立一套和业务目标强绑定的评估体系。离线和线上两层，各有侧重点。
离线评估我们主要看四个指标：文案采纳率（业务方直接采用的比例）、审核通过率（一次性通过合规审核的比例）、利益点准确率（优惠信息和活动规则是否完全一致）、以及产出速度。前三个直接衡量质量，第四个衡量工程效率。这里有一个容易被忽略的陷阱：采纳率不是越高越好。如果采纳率接近100%，反而说明模型输出的多样性不足，业务方只是没有更好的选择只能用它。
线上AB实验才是最终裁判。每个新版本模型上线前，我们都会选取三个城市做为期一周的分流量测试，核心观察点击率、转化率、以及首单ROI。大模型生成素材的点击率普遍比人工素材高10%-15%，但有个很有意思的现象：大模型素材在“新用户”群体上的点击率提升最明显，但在高活跃老用户群体上反而没有优势。因为老用户已经对货拉拉的品牌非常熟悉，套路话术很难打动他们，反而是一些朴实但信息准确的内容更有效。这提醒我们，大模型的生成策略不能一刀切，要分人群设置不同的创造性温度参数。
5. 常见问题与排查技巧实录
5.1 幻觉与内容合规问题的处理
幻觉是我们在所有实践里遇到频率最高的一个问题，营销广告里的幻觉格外危险，因为它会造成虚假承诺。比如模型会在文案里写出“全程不收费”，但实际业务里可能有停车费、高速费这些额外项目。
我们的处理手段分三层。第一层是Prompt约束，在系统提示词里明确列出不允许出现的承诺类型。第二层是RAG信息召回，把活动价格、优惠券规则、费用说明这些结构化信息做成知识库，要求模型在写文案前必须先去检索，凡是涉及具体数字的表述，必须和检索结果保持一致。第三层是规则校验兜底，就是我们前面提到的那个规则校验服务，用正则和命名实体识别把金钱、时间、百分比这些关键字段全量抽出来做一致性比对，发现不一致直接拦截。
合规审核这块，我们还在微调数据里加了大量负面样例。把过去被广告法打回的文案整理成负样本，专门教模型识别“最”“第一”“国家级”“100%有效”这类词。模型对负样本的学习效率非常高，经过一轮微调之后，合规性问题减少了大概70%。
5.2 成本与性能的平衡手段
私有化部署最大的压力永远来自GPU成本。我们有四张A100在跑主力模型，但大促期间物料生产的需求峰值是平时的五倍以上，怎么扛住这样的压力？
我们做了三件事。第一件事是量化部署，把主力7B模型从FP16压到INT8，显存占用下降了接近一半，生成质量几乎无损，只是语感上稍微有点“变钝”，在创意发散这种不需要精确的任务上完全够用。第二件事是请求合并与缓存，把活动利益点相同或者人群标签相似的请求合并成batch一次处理，同时建了一个语义缓存，同一个活动在一个小时内重复生成文案的话直接命中缓存，不用再走模型推理。第三件事是模型分级，日常轻量场景用7B甚至更小的4B模型，只有在大促创意物料生成这种高质量要求的任务上才启用更大参数量的模型。
这套组合拳打下来，单次物料生成的综合成本大约降到了原来的四分之一。成本控制的核心思路从来不是“省着不用”，而是让每一分算力都花在真正产生业务价值的地方。
5.3 效果不稳定与回归问题的排查思路
大模型和传统软件非常大的一个区别是：它今天表现好，不代表明天表现还好。我们遇到过几次线上效果突然下滑的情况，第一反应是查代码，最后发现原因千奇百怪。
一次是基座模型版本升级导致的“风格漂移”。我们升级了一个依赖库，连带把模型权重也更新了，新权重在某些Prompt下的表现和老权重差异很大，文案风格莫名其妙变得更“文艺”，而我们投放的人群根本不吃这一套。从此以后我们养成了一个习惯：任何模型权重变更，必须先在离线评测集上跑两三百条case，和旧版本做对比，偏差超过阈值就不允许上线。
另一次是Prompt里一个标点符号的变化引发了大问题。有个同学把系统Prompt里的中文逗号改成了英文逗号，理论上不应该有任何影响，但模型的生成结果里开始频繁出现多余的空格和符号，直接破坏了最终文案的样式。这个问题排查了将近三个小时，最后通过对比Git提交记录才定位到。这件事之后我们建立了Prompt版本管理制度，所有Prompt的变更都要走Code Review。
| 问题类型 | 典型表现 | 排查手段 |
|---|---|---|
| 风格漂移 | 文案语气偏离目标人群 | 离线用例集回归测试与新旧版本对比 |
| 情绪不稳定 | 同一输入多次生成差异过大 | 降低temperature、增加输出规范约束 |
| 利益点错误 | 金额、时间与活动规则不符 | RAG检索 + 规则校验服务双重拦截 |
| 审核违规 | 出现极限词或虚假承诺 | 负面样例微调 + 关键词黑名单强校验 |
6. 一些沉淀下来的实战经验
说实话，大模型在营销广告这条链路里的落地，真正难的不是模型训练，而是你怎么理解业务、怎么设计约束、怎么建立评估。模型能力现在太强了，反而是我们这些做应用的人，常常被“它什么都能做”迷惑，忘记了“它什么都可能做错”的风险。
我自己最有体感的一条经验是：在大模型应用里，确定性永远是第一位的，创造性永远排在第二位。广告物料关系到真金白银的投放和品牌信誉，一次虚假承诺造成的损失，足够抵消模型带来的所有效率提升。所以我们在设计任何生成链路时，都会问自己一个同样的问题：如果模型这次输出错了，最坏的结果是什么？如果这个结果不可接受，那就要加约束、加校验、加人工兜底。
另外一条经验是关于团队构成的。大模型项目不是几个算法工程师就能搞定的，这个项目能顺利落地，是因为从一开始就有创意团队的资深文案、审核同学、投放运营全程参与。算法工程师不懂“哪条文案会被广告法打回”，创意同学也不懂“为什么温度系数会影响多样性”，但坐在一起碰撞之后，很多风险都提前暴露了。
如果你想在自己公司复刻类似的项目，我的建议是不要从“做一个大模型平台”这种宏大的目标开始。先选一个业务方痛点最痛、效果最容易量化的场景切入，比如批量物料生成，把它做透、做出数据、做出口碑，再往其他场景复制。大模型的想象力很值钱，但真正能让你站稳脚跟的，永远是业务结果。
