1. 这不是“又一个Agent教程”,而是企业知识系统升级的实操路线图
你手头有一套运行了五年的CRM系统,里面沉淀着327个客户成功案例、186份行业解决方案PPT、43版产品白皮书修订稿,还有散落在钉钉群、飞书文档、本地共享盘里的技术答疑记录——它们真实存在,但当你需要为新客户快速生成定制化方案时,却要花47分钟翻找、拼凑、核对版本。这不是知识匮乏,而是知识沉睡。真正的企业知识增强,从来不是把文档塞进向量库就完事;它是一场涉及数据源治理、多引擎协同、大模型语义调教、结果可信校验的系统工程。本篇不讲“Agent是什么”这种基础定义,也不堆砌LangChain、LlamaIndex的API调用示例。我们聚焦一个具体场景:某中型制造企业销售总监,在接到某汽车零部件集团招标需求后,如何在15分钟内生成一份包含竞品对比、工艺适配性分析、交付周期承诺的精准应标材料。整个过程依赖的不是一个单点工具,而是一个由本地知识引擎(结构化数据)+ 全文检索引擎(非结构化文档)+ 大模型推理引擎(语义生成与校验)三者动态协同的Agent工作流。关键词“多引擎同步优化”不是营销话术,而是指三个引擎在一次用户查询中必须完成毫秒级的并行触发、结果加权融合、矛盾消解与溯源标注。你将看到的,是我在为三家制造业客户落地该方案时,踩过27次坑、重写4版调度逻辑、最终稳定运行18个月的真实路径。它不追求炫技,只解决一个问题:让沉睡的知识,真正长出响应业务需求的肌肉。
2. 为什么单靠大模型或单引擎注定失败?一场关于知识“活性”的硬核拆解
很多团队一上来就直奔大模型API,以为把PDF扔进RAG pipeline,再套个ChatUI,知识增强就算落地了。我见过最典型的失败案例:某医疗器械公司接入某知名大模型API后,销售代表输入“骨科手术机器人配套耗材清单”,返回结果里混入了三年前已停产型号的报价单,且未标注来源文档页码。问题出在哪?不是模型不够强,而是知识系统缺乏“活性”——即知识能否被精准定位、时效能否被动态识别、冲突能否被主动揭示。这恰恰是单引擎架构的致命短板。
2.1 本地知识引擎:结构化数据的“精确制导”能力
本地知识引擎专攻ERP、CRM、MES等系统中的结构化数据。它的核心价值不是“搜索”,而是“精准匹配”。例如,当用户问“华东区上季度销售额TOP3的客户”,传统全文检索引擎会把所有含“华东”“季度”“销售额”的文档都拉出来,再让大模型去筛。而本地知识引擎直接对接数据库,执行SQL:SELECT customer_name, amount FROM sales WHERE region='华东' AND quarter='2024-Q2' ORDER BY amount DESC LIMIT 3;。结果零延迟、零幻觉、带原始数据ID。我们采用PostgreSQL + pgvector扩展构建此引擎,关键在于字段级向量化:不是把整条销售记录向量化,而是对customer_name、product_category、sales_rep等关键字段分别建立独立向量索引。这样,当用户模糊搜索“张经理负责的骨科耗材客户”,引擎能同时匹配sales_rep向量(张经理)、product_category向量(骨科耗材),再通过JOIN获取最终客户列表。实测响应时间稳定在80ms以内,远低于大模型Token生成成本。
2.2 全文检索引擎:非结构化文档的“语义雷达”覆盖
企业90%的知识藏在Word、PDF、Excel里。这些文档无法用SQL查询,必须依赖全文检索引擎。但我们弃用了Elasticsearch默认的BM25算法,改用Hybrid Search(混合搜索):底层仍用Lucene,但查询时注入两层权重。第一层是传统词频权重(TF-IDF),确保“钛合金”“无菌包装”等专业术语不被稀释;第二层是轻量级Sentence-BERT微调模型生成的语义相似度分数,用于捕捉“微创手术器械”与“小切口操作工具”的隐含关联。关键创新在于文档分块策略:不按固定字数切分,而是基于文档结构智能识别。对于技术白皮书,按“章节标题-子标题-段落”三级嵌套切分;对于会议纪要,则按“发言人-发言主题-结论”切分。每个块附带元数据标签:{source: "2024_Q2_骨科耗材复盘会议", page: 12, author: "王工", timestamp: "2024-07-15"}。这使得后续大模型生成时,能精准回溯到“王工在7月15日会议中提出的三点改进建议”,而非笼统指向“某份会议纪要”。
2.3 大模型推理引擎:语义生成与可信校验的“双脑协同”
大模型在此架构中不承担“知识存储”角色,而是作为“知识调度员”和“内容生成器”。其输入不是原始文档,而是前述两个引擎返回的结构化结果摘要。例如,本地引擎返回3个客户ID及销售额,全文引擎返回5份相关技术文档块及置信度分数。大模型的任务是:1)判断哪些结果存在冲突(如某文档称“交付周期30天”,另一份合同附件写“45天”);2)根据用户query意图(应标材料需突出优势),对结果进行加权重组;3)生成符合企业话术规范的终稿。我们选用Qwen2-7B-Int4量化模型本地部署,关键配置是禁用温度值(temperature=0)和启用重复惩罚(repetition_penalty=1.2),强制输出确定性、可复现的结果。更重要的是,我们为大模型添加了可信度校验模块:对生成的每句话,自动反向检索其支撑证据(来自哪个引擎、哪个文档块、哪一行),并在终稿末尾以脚注形式标注。用户看到“本方案支持ISO13485认证(见附件《质量体系说明》P8)”,而非一句空泛的“我们符合国际标准”。
提示:三个引擎不是简单串联,而是通过一个轻量级调度器(我们用Python+FastAPI实现)进行状态同步。当用户发起查询,调度器同时向三个引擎发送请求,并设置差异化超时:本地引擎100ms,全文引擎300ms,大模型5秒。任一引擎超时,调度器立即降级处理(如全文引擎超时,则仅用本地引擎结果生成简版报告),确保系统永不“卡死”。
3. 多引擎同步优化的核心:调度器设计与权重动态分配实战
调度器是整个Agent系统的“交感神经”,它决定三个引擎何时启动、如何协作、结果如何融合。市面上多数方案把调度逻辑写死在代码里,导致一旦业务规则变化(如新增一个知识源),就要重启服务。我们的方案是规则引擎驱动的动态调度,核心是三张配置表。
3.1 引擎能力画像表:给每个引擎贴上“能力标签”
我们为每个引擎定义了12个维度的能力标签,形成一张“能力画像表”。例如:
| 引擎类型 | 精确匹配 | 时效敏感 | 语义理解 | 多跳推理 | 结构化输出 | 响应延迟 | 元数据丰富度 | ... |
|---|---|---|---|---|---|---|---|---|
| 本地引擎 | ★★★★★ | ★★★★☆ | ★☆☆☆☆ | ★☆☆☆☆ | ★★★★★ | ★★★★★ | ★★★☆☆ | |
| 全文引擎 | ★★☆☆☆ | ★★★☆☆ | ★★★★☆ | ★★★☆☆ | ★★☆☆☆ | ★★★☆☆ | ★★★★★ | |
| 大模型 | ★☆☆☆☆ | ★★☆☆☆ | ★★★★★ | ★★★★★ | ★★★★☆ | ★★☆☆☆ | ★☆☆☆☆ |
这张表不是静态的,而是随引擎升级动态更新。当全文引擎接入新版Hybrid Search后,“语义理解”评分从★★★☆☆升至★★★★☆,调度器会自动提升其在“概念解释类”query中的权重。
3.2 Query意图识别器:用轻量模型做第一道过滤
用户输入“帮我查下A客户去年采购的骨科耗材型号”,表面是查询,实则包含三层意图:1)主体识别(A客户);2)时间范围(去年);3)属性要求(骨科耗材型号)。我们训练了一个极小的BERT分类器(仅2M参数),专门识别Query的主导意图类型,分为6类:精确查询、模糊检索、对比分析、趋势预测、流程指引、知识验证。识别结果直接映射到调度策略。例如,当识别为“精确查询”(如含明确ID、日期、型号),调度器会优先调用本地引擎,全文引擎仅作为补充验证;当识别为“模糊检索”(如“最近有哪些关于关节置换的新技术”),则大幅提高全文引擎的召回权重,并放宽大模型的生成约束。
3.3 动态权重融合算法:让结果可信度可计算
三个引擎返回结果后,不是简单拼接,而是通过一套加权置信度融合算法生成最终答案。公式如下:
Final_Score = (Local_Score × W_local) + (Fulltext_Score × W_fulltext) + (LLM_Score × W_llm)其中权重W并非固定值,而是由Query意图和引擎实时状态动态计算:
W_local = 0.4 + 0.3 × Intent_Precision + 0.2 × Local_Availability - 0.1 × Local_Latency_DeviationW_fulltext = 0.3 + 0.4 × Intent_Fuzziness + 0.2 × Fulltext_Coverage - 0.1 × Fulltext_Stale_RatioW_llm = 0.3 + 0.5 × Intent_Complexity - 0.2 × LLM_Load
Intent_Precision等变量由Query意图识别器输出,Local_Availability(本地引擎可用率)和Fulltext_Stale_Ratio(全文引擎中超过90天未更新文档占比)则来自实时监控。这套算法让系统在“客户ID查询”时,本地引擎权重达0.72;而在“解读最新FDA骨科器械指南”时,全文引擎权重升至0.65,大模型权重达0.58。更重要的是,每个最终答案都附带Final_Score值(0-1区间),用户可直观判断结果可信度。低于0.65的答案,系统会自动提示“建议人工复核”,并高亮显示冲突证据。
注意:权重计算中
LLM_Load(大模型负载)是关键安全阀。当GPU显存使用率>85%时,W_llm系数强制降至0.1,系统转为“双引擎模式”(本地+全文),仅返回结构化摘要,避免因大模型过载导致整体服务降级。这是我们在某次促销季流量洪峰中保住SLA的关键设计。
4. 大模型搜索内容调教:从“能说”到“说准”的七步法
很多团队卡在最后一步:大模型生成的内容看似流畅,却经不起推敲。问题不在模型本身,而在“调教”缺失。我们总结出一套针对企业知识场景的七步调教法,每一步都对应一个可验证的指标。
4.1 步骤一:Prompt工程——用“角色-任务-约束”三元组替代泛泛指令
错误示范:“请根据知识库回答问题。”
正确写法:
你是一名资深医疗器械销售工程师,正在为客户编写应标技术方案。 任务:从提供的结构化数据(客户名单、销售额)和非结构化文档(技术白皮书、会议纪要)中,提取关键信息,生成一段200字以内的技术优势陈述。 约束:1)必须引用至少2个具体数据点(如“交付周期缩短至30天”);2)禁止使用“可能”“大概”等模糊词汇;3)所有技术参数必须标注来源文档名及页码;4)语言风格需符合B2B技术文档规范,避免口语化。这个三元组将大模型从“通用问答机”转变为“特定角色执行者”。实测显示,加入明确角色后,生成内容的专业术语准确率提升37%;加入具体约束后,幻觉率下降至0.8%(基线为12.4%)。
4.2 步骤二:上下文精炼——用“摘要链”替代原始文本堆砌
大模型上下文窗口有限,但企业文档动辄百页。我们不把PDF全文喂给模型,而是构建“摘要链”:
1)全文引擎返回的Top5文档块 → 2)用轻量模型(如MiniLM)生成每个块的50字摘要 → 3)将5个摘要再聚类,生成150字的“主题共识摘要” → 4)最终只将“主题共识摘要”+关键数据表格送入大模型。
这使有效上下文利用率提升4倍,相同硬件下吞吐量从8 QPS提升至32 QPS。更重要的是,避免了模型在冗余文本中迷失重点。
4.3 步骤三:事实核查层——在生成后插入“证据锚点”
我们开发了一个轻量级事实核查模块,部署在大模型输出之后。它接收生成文本和原始证据集,执行三重校验:
- 实体一致性:检查文本中提到的客户名、型号、日期,是否在证据集中存在完全匹配项;
- 数值合理性:对“交付周期30天”等数值,比对证据中同类场景的数值分布(如历史平均45±10天),若偏离2个标准差则告警;
- 逻辑连贯性:用规则引擎验证因果链,如“因采用新产线,故交付周期缩短”需在证据中找到“新产线投产”和“交付周期缩短”两个事实。
校验失败的句子会被标记为[待确认],并附上冲突证据片段。销售代表一眼就能看出哪里需要人工介入。
4.4 步骤四:企业话术注入——构建专属“表达词典”
不同企业有不同表达习惯。某客户要求“禁止使用‘革命性’‘颠覆性’等夸大词汇,统一用‘显著提升’‘稳定优化’”。我们为此构建了一个动态“表达词典”,在大模型生成后、输出前进行实时替换。词典不仅是同义词替换,更包含语境规则:
- 在“技术参数”段落,将“快”替换为“响应时间≤50ms”;
- 在“客户服务”段落,将“好”替换为“首次响应<15分钟,问题解决率≥98%”;
- 在“合规声明”段落,强制插入标准条款编号(如“符合YY/T 0287-2017第7.5.2条”)。
这套机制让生成内容100%符合企业对外沟通规范,避免法务风险。
4.5 步骤五:多轮反馈闭环——让调教持续进化
我们为每个生成结果添加“反馈按钮”:✅(准确)、⚠️(部分准确)、❌(错误)。用户点击后,系统自动捕获:1)原始Query;2)生成文本;3)用户选择的反馈类型;4)(若选⚠️/❌)用户手动修正的文本。这些数据每日自动进入微调数据集,用LoRA技术对Qwen2-7B进行增量训练。经过6个月迭代,模型在“竞品对比”类任务上的准确率从68%提升至92%,且修正文本的采纳率达83%,证明调教方向与业务需求高度一致。
4.6 步骤六:领域知识蒸馏——用小模型承接高频简单任务
并非所有查询都需要大模型。我们将高频、确定性高的任务(如“查某客户联系人”“查某型号库存”)蒸馏到一个TinyBERT模型(参数量<10M)。该模型直接部署在边缘节点,响应时间<50ms,功耗仅为大模型的1/200。只有当TinyBERT置信度<0.85,或Query被意图识别器判定为“复杂分析”时,才触发大模型。这使整体系统成本降低63%,同时保障了核心业务查询的极致体验。
4.7 步骤七:人工接管熔断——设计不可绕过的“人类监督点”
再完善的系统也需要人工兜底。我们在三个关键节点设置熔断:
- 当
Final_Score < 0.55时,强制进入“人工审核队列”,销售代表可在Web端看到AI生成草稿、所有证据源、冲突提示,一键修改并发布; - 当同一Query在24小时内被3次标记为❌,系统自动冻结该Query模板,通知知识管理员核查源头文档;
- 每月自动生成“调教报告”,列出Top10低分Query、Top5高频修正点、知识盲区热力图,驱动知识库主动更新。
这确保了AI是助手,而非决策者,所有关键业务输出始终掌握在人手中。
5. 保姆级落地 checklist:从环境准备到上线运维的12个关键动作
理论再扎实,落地时一个疏忽就可能让项目停滞。以下是我在三次完整交付中提炼的12个不可跳过的动作,按时间顺序排列,每个动作都附带“为什么必须做”和“不做会怎样”的血泪教训。
5.1 动作一:知识源摸底审计(耗时:3-5天)
- 做什么:不是简单罗列“有CRM、有SharePoint”,而是逐个系统导出元数据:表名、字段名、数据类型、更新频率、权限矩阵、典型查询样例。对文档库,抽样100份文件,统计格式分布(PDF/Word/Excel占比)、平均页数、扫描件OCR准确率、作者/部门/创建时间等元数据完备度。
- 为什么必须做:某客户未做此项,上线后发现CRM中“客户等级”字段在2023年Q4才启用,此前数据为空。AI在生成“VIP客户专属服务”方案时,将所有老客户判为普通客户,导致重大客诉。
- 不做会怎样:后续所有引擎配置、Schema设计、测试用例都将建立在错误假设上,返工成本是初期投入的3倍以上。
5.2 动作二:构建最小可行知识图谱(耗时:2天)
- 做什么:用Neo4j快速搭建一个包含3个核心实体(客户、产品、文档)和2个关系(客户采购产品、文档描述产品)的图谱。将审计中确认的10个高价值客户、5个主力产品、20份核心文档导入,手动标注关系。
- 为什么必须做:图谱是理解知识关联性的最直观方式。它能立刻暴露“某款耗材在CRM中有记录,但在所有技术文档中均未提及”的断点,这是表格审计无法发现的。
- 不做会怎样:团队对知识关联缺乏共识,后续引擎协同策略(如“客户+产品”联合查询)设计严重失真。
5.3 动作三:本地引擎Schema设计评审(耗时:1天)
- 做什么:邀请CRM/ERP管理员、销售总监、法务代表共同评审数据库字段映射表。重点确认:哪些字段必须向量化(如
product_name)、哪些字段需脱敏(如customer_phone)、哪些字段需建立复合索引(如region+sales_rep+quarter)。 - 为什么必须做:某次评审中,法务指出
contract_amount字段需按客户等级分级授权,这直接决定了向量索引的访问控制策略。 - 不做会怎样:上线后因权限问题导致销售总监看不到关键数据,或因索引缺失导致查询超时,引发信任危机。
5.4 动作四:全文引擎分块策略验证(耗时:2天)
- 做什么:选取5份典型文档(技术白皮书、会议纪要、合同模板、FAQ、培训PPT),用预设分块策略切分,人工检查每个块的语义完整性。重点验证:技术白皮书的“性能参数”表格是否被完整保留在一个块内;会议纪要的“结论”是否未被截断。
- 为什么必须做:分块错误会导致关键信息碎片化,大模型无法理解完整语义。曾有案例,一份合同的“违约责任”条款被切在两个块里,AI生成时遗漏了赔偿上限。
- 不做会怎样:知识召回率虚高(返回大量块),但有效信息密度极低,大模型生成质量灾难性下降。
5.5 动作五:调度器初始权重配置(耗时:0.5天)
- 做什么:基于知识图谱和审计报告,为6类Query意图设定初始权重。例如,“精确查询”类初始
W_local=0.6,“模糊检索”类初始W_fulltext=0.5。所有权重录入调度器配置中心,确保可热更新。 - 为什么必须做:权重是调度器的“DNA”,初始值决定冷启动效果。凭空设定会导致早期用户失望,影响推广。
- 不做会怎样:系统上线首周,80%的“客户查询”被错误导向全文引擎,响应慢且不准,用户迅速弃用。
5.6 动作六:大模型Prompt沙盒测试(耗时:3天)
- 做什么:用100个真实历史Query(脱敏后)在沙盒环境中测试Prompt。不仅看生成结果,更统计:事实错误率、来源标注完整率、企业话术合规率、平均响应时间。
- 为什么必须做:Prompt是AI的“操作手册”,必须用真实数据验证。某次测试发现,当Query含“对比”二字时,模型有73%概率忽略指定对比对象,需在Prompt中强化约束。
- 不做会怎样:上线后用户反复遭遇“答非所问”,口碑崩塌,再难挽回。
5.7 动作七:证据溯源链路压测(耗时:1天)
- 做什么:模拟100并发用户,发起相同Query,监控从引擎调用、结果融合、大模型生成、到证据锚点标注的全链路耗时与错误率。重点验证溯源标注是否100%准确绑定到原始文档块。
- 为什么必须做:溯源是可信度基石。压测能暴露高并发下数据库连接池耗尽、缓存击穿等问题。
- 不做会怎样:上线后用户点击脚注却跳转到错误页面,彻底摧毁系统可信度。
5.8 动作八:人工接管熔断演练(耗时:0.5天)
- 做什么:人为制造
Final_Score=0.4的Query,验证审核队列是否正常接收、Web端是否清晰展示AI草稿/证据/冲突提示、销售代表修改后是否能一键发布。 - 为什么必须做:熔断是信任底线,必须像消防演习一样实操验证。
- 不做会怎样:真遇到低分Query时,系统卡死或流程断裂,用户被迫退出系统,转向原始手工方式。
5.9 动作九:首轮用户培训(耗时:1天)
- 做什么:不讲技术原理,只教三件事:1)如何写出高质量Query(给出正反例);2)如何解读
Final_Score和脚注;3)如何使用反馈按钮。培训材料全部用真实截图+短视频。 - 为什么必须做:用户是系统最终裁判。教会他们“怎么问”和“怎么看”,比教会他们“怎么建”重要十倍。
- 不做会怎样:用户用模糊Query提问,得到模糊答案后归咎于系统,而非自身提问方式。
5.10 动作十:知识盲区日报(耗时:持续)
- 做什么:每日自动生成报表,列出当日
Final_Score<0.6的Query Top10、被标记为❌的Query Top5、未被任何引擎召回的Query关键词。邮件发送给知识管理员。 - 为什么必须做:让知识库更新从“被动响应”变为“主动补缺”,形成PDCA闭环。
- 不做会怎样:知识库永远滞后于业务,系统越用越不准,沦为摆设。
5.11 动作十一:月度调教报告(耗时:每月1天)
- 做什么:汇总当月反馈数据、低分Query分析、知识盲区趋势,形成可视化报告,与业务部门负责人共同解读,制定下月知识库更新计划。
- 为什么必须做:将AI系统从IT项目升维为业务增长杠杆,获得持续资源支持。
- 不做会怎样:项目沦为一次性交付,半年后无人维护,知识增强效果归零。
5.12 动作十二:应急预案桌面推演(耗时:0.5天)
- 做什么:模拟三种故障:1)本地引擎宕机;2)全文引擎索引损坏;3)大模型GPU故障。演练降级策略(如本地引擎宕机时,全文引擎权重自动升至0.8)、故障恢复步骤、用户沟通话术。
- 为什么必须做:生产环境没有如果,只有何时发生。预案让故障从危机变为常规运维事件。
- 不做会怎样:真实故障发生时,团队手忙脚乱,服务中断超4小时,造成重大业务损失。
提示:这12个动作不是线性流程,而是交织进行。例如,“知识盲区日报”在上线首日就开始运行,“月度调教报告”在第二个月初就产出。真正的保姆级,是把每一个可能的坑,都提前垫上软垫。
6. 我踩过的最深的三个坑:关于“企业知识增强”的残酷真相
从业十年,我主导过17个知识增强项目,其中4个失败,13个成功。失败的项目,问题从不在于技术选型,而在于对“企业知识”本质的误判。分享三个刻骨铭心的坑,它们没有出现在任何技术文档里,却是决定项目生死的暗礁。
6.1 坑一:把“知识库”当成“文档库”,忽视知识的“时效契约”
某能源客户要求“所有技术文档实时生效”。我们花了三个月建好全文引擎,上线当天,销售代表查询“最新光伏逆变器技术参数”,返回结果包含一份2022年发布的旧版白皮书。客户质问:“你们的‘实时’在哪里?”我们才发现,文档库管理员有个不成文规矩:新文档上传后,旧文档不删除,只改名加“_V2”后缀,且不更新元数据中的last_modified字段。知识在物理上“存在”,但在逻辑上已“死亡”。我们原以为的“知识库”,其实是个“文档坟场”。
血泪教训:必须与知识管理员签订《时效契约》,明确每类文档的“生命周期规则”。例如:技术白皮书发布后,旧版必须在24小时内归档并标注“已废止”;会议纪要发布后,原始录音文件必须在72小时内删除。契约要写入SLA,违约有罚则。技术可以解决检索,但无法解决人的惰性。
6.2 坑二:追求“100%自动化”,忘了知识工作者的“尊严需求”
另一个客户坚持“所有输出必须零人工干预”。我们实现了全自动应标材料生成,准确率92%。但销售总监私下告诉我:“我不敢用。因为当客户问‘这个参数你们怎么保证?’时,我答不上来。AI生成的东西,我无法为它背书。”知识工作者需要的不是替代,而是“可解释的增强”。他们需要知道答案从哪来、为什么这么答、哪里可能有风险。强行剥夺他们的解释权和决策权,等于剥夺了他们的职业尊严。
血泪教训:所有自动化输出,必须设计“可追溯、可质疑、可修正”的路径。脚注不是装饰,而是责任接口;反馈按钮不是摆设,而是权力移交。真正的增强,是让销售代表在客户面前,能自信地说:“这个问题,AI帮我们梳理了3个关键证据,我的判断是……”,而不是“AI说的”。
6.3 坑三:用“技术先进性”代替“业务契合度”,陷入参数军备竞赛
曾有一个项目,客户CEO痴迷“最强大模型”,坚持要用千亿参数模型。我们部署了,但效果奇差。原因很简单:销售代表手机端查询,等待15秒才出结果,而他们平均每次对话只有22秒。技术参数再漂亮,也敌不过业务场景的物理限制。后来我们换成7B模型+边缘缓存,响应<800ms,使用率飙升300%。
血泪教训:评估技术方案,永远先问三个问题:1)目标用户在什么设备、什么网络、什么场景下使用?2)他们能容忍的最大延迟是多少?3)这个功能解决的是真痛点,还是伪需求?参数、算力、架构,都是为业务体验服务的仆人,绝不能成为主人。记住,企业知识增强的终极KPI,不是模型的BLEU分数,而是销售代表签下订单的时间缩短了多少天。
我在最后一次项目复盘会上,把这三条写在白板上,擦掉所有技术术语,只留下这三句话。它们比任何架构图都更接近真相。