三阶十二步工业AI小模型训练实战 · 第1篇
为什么制造业更需要小模型,
而不是一上来就用大模型?
从算力、时延、安全、稳定性与总成本看工业AI的第一道选择题
作者:黄山 | 专栏序号:01 / 30 | 阅读时间:约12分钟
图1 工业AI落地的关键,不是模型越大越好,而是模型能否在现场稳定完成任务。
文章摘要|制造业真正需要的,往往不是“什么都懂一点”的通用大模型,而是能在限定算力、限定时延、限定网络和严格安全边界内,把一个任务稳定做好的小模型。本文用工业现场的五个约束拆解选型逻辑,并给出可直接套用的判断清单。
写在前面:别被“参数规模”带偏
在制造业做了二十八年,从ERP上线到MES打通,从数据仓库到AI试点,我经历过不少“技术热潮来了又走”的周期。大模型兴起之后,我被问得最多的一句话是:‘老黄,我们工厂要不要也上一个大模型?’
我的回答通常不是‘要’或‘不要’,而是先追问三个问题:你准备解决哪一个业务问题?这个问题允许多大时延?数据能不能离开工厂?
这不是给大模型泼冷水。大模型在知识问答、报告生成、代码辅助、跨语言理解等任务上很有价值。但制造业的AI落地,很多时候需要的不是“什么都懂一点”的通才,而是“把一件事做到极致”的专才。
核心观点|工业AI选型的第一原则不是“先进”,而是“适配”。能在现场持续运行、能被维护、能创造业务价值的模型,才是好模型。
一、先把概念讲清:什么是工业小模型?
本文所说的“小模型”,不是一个严格按参数量划线的学术概念,而是一种工程取向:围绕明确任务,用尽可能小的计算与数据成本,训练一个可以在现场可靠部署的专用模型。
它可以是用于表格数据的逻辑回归、随机森林、XGBoost或LightGBM,也可以是用于图像检测的MobileNet、轻量ResNet、YOLO轻量版本,还可以是用于设备时序数据的1D-CNN、LSTM或经过压缩的Transformer。共同点不是架构,而是四个字:任务明确。
- 输入明确:相机图像、振动信号、温度压力、工艺参数或订单历史。
- 输出明确:合格/不合格、故障概率、质量值、能耗预测或未来需求。
- 边界明确:模型只负责一个可验证的判断,不替代整个业务系统。
- 指标明确:时延、准确率、漏检率、误报率、稳定性与业务收益都有门槛。
因此,小模型不等于“能力弱”,而是把模型能力集中到一个场景中。对于节拍固定、输入稳定、判定标准清晰的工业任务,这种聚焦往往比通用能力更重要。
二、制造业为什么不能一上来就用大模型?
制造业不是互联网应用的简单复制。一个模型能在演示中给出漂亮答案,不代表它能在产线上连续运行。真正的约束来自现场:设备不停、网络会抖、数据敏感、点位众多,而且每一次误判都可能变成返工、报废或停机。
图2 云端方案链路更长;边缘小模型靠近相机和执行机构,更适合低时延、断网可用的现场任务。
2.1 算力门槛:不是买不起,而是规模化以后用不起
单个大型模型的私有化部署,往往需要高端GPU、稳定供电、散热、机房与专业运维。问题还不止是一次性采购:制造业应用通常是“多点位、小场景”,一条产线有质检,一批设备有预警,能源站有优化,计划部门有预测。把每个任务都堆到重型大模型上,预算与运维复杂度会迅速上升。
原始项目稿中曾按单个质检工位做过一组TCO估算。为了避免把项目数字误当成行业报价,这里只保留它想说明的关系:当调用频率高、点位多、运行周期长时,持续调用费用和网络成本可能比一次性边缘部署更难控制。
成本项 | 云端大模型路线 | 边缘小模型路线 |
前期投入 | 接口接入较快,私有化硬件投入高 | 需训练、适配并配置边缘设备 |
运行成本 | 随调用量、图片量或token量增长 | 以本地算力、电力和维护为主 |
规模化特点 | 点位越多,持续费用越敏感 | 复制单点方案,单点成本较可预测 |
预算确定性 | 受服务价格、网络与调用峰值影响 | 采购后较容易按年度测算 |
说明|上表是工程成本结构对比,不是具体厂商报价。实际选型应把硬件、开发、数据、网络、运维、停机风险和三年生命周期一起计算。
2.2 时延:几百毫秒可能就是“跟不上节拍”
在线视觉质检、机械臂协同、设备保护等场景都有固定节拍。相机拍照之后,系统要完成预处理、推理、判定和执行机构触发。只要总链路超过允许窗口,模型再聪明也没有用。
在原始项目素材的一次对比测试中,同一类质检任务使用轻量ResNet在边缘工控机上推理约35毫秒;调用云端多模态接口,从上传图片到返回结果平均约1.8秒。这个数字并不代表所有模型和网络环境,但它揭示了一个结构性差异:本地链路短,云端链路包含传输、排队与服务响应。
现场判断|如果总时延预算小于200毫秒,或者网络中断会直接影响产线,优先评估边缘小模型;不要把“网络通常没问题”当成生产保障。
2.3 数据安全:工艺参数、缺陷图像和设备状态不能随便出厂
工业数据常常带有明确的商业与安全属性:配方、工艺窗口、良率、设备状态、客户图纸,甚至军工与关键基础设施数据。部分企业不仅要求数据不出厂,还要求生产网与办公网物理隔离。
在这类场景里,云端是否“足够安全”并不是唯一问题;更重要的是企业的制度边界根本不允许外发。小模型可以在企业内网完成训练与推理,让原始数据、特征和模型文件形成自主可控的闭环。
2.4 稳定性与确定性:同样的输入,必须得到同样的结果
客服与内容生成可以接受答案有变化,质量判定和设备控制通常不行。工业系统要求版本可追溯、阈值可配置、结果可复现:今天判为合格的样本,在相同模型、相同输入和相同配置下,明天不能突然变成不合格。
传统机器学习和专用神经网络在推理阶段通常更容易形成确定性的工程链路。即使模型本身仍存在概率输出,也可以通过固定预处理、版本、阈值和随机种子,把结果纳入可验证、可审计的流程。
2.5 可维护性:厂里的工程师要能定位问题
很多工厂没有长期驻场的算法团队。模型上线之后,真正负责它的可能是IT工程师、自动化工程师、质量工程师和设备工程师。系统必须回答:是相机脏了、传感器漂了、数据分布变了,还是模型真的失效了?
小模型的输入、特征、阈值和版本更容易被拆解。对于树模型可以查看特征重要性与SHAP值,对于图像模型可以查看热力图,对于时序模型可以回放异常窗口。可解释不是为了“讲得漂亮”,而是为了把模型结论转化成检查与改善动作。
三、小模型为什么更像工业现场的“专用工具”?
工业小模型的优势,可以概括为四个“可”:可落地、可复制、可解释、可运营。
3.1 轻量:从GB级到MB级,是部署方式的变化
常见轻量视觉模型可能只有几MB到几十MB,树模型甚至更小。这不仅节省磁盘和内存,更重要的是它允许模型跑在普通工控机、边缘盒子或嵌入式设备上,缩短启动时间,减少对现场系统资源的争抢。
# 仅用于理解量级,具体大小取决于结构、精度和导出格式
model_sizes = {
"ResNet-50": "约98 MB",
"MobileNet-V2": "约14 MB",
"ShuffleNet-V2": "约5 MB",
"custom_defect_model": "约2-8 MB",
}
for name, size in model_sizes.items():
print(f"{name:24s} {size}")
别误读|模型文件小不代表项目简单。数据采集、标注规范、现场光学、系统集成和持续监控,往往比模型结构更决定成败。
3.2 靠近现场:数据不出厂,断网也能继续运行
把模型部署在相机、PLC和执行机构附近,意味着采集、推理与控制可以在本地闭环。边缘设备可以把结果和摘要上报到MES或数据平台,但不必把每一张原图、每一段高频波形实时传到云端。
3.3 输出可解释:模型结论能对应到工艺动作
一个好的工业模型不只输出“异常概率0.87”,还应该告诉工程师:哪些传感器在什么时间窗口发生了变化,哪个特征把风险推高,缺陷集中在图像的哪个区域。只有这样,模型才能进入点检、调参、放行、复判等业务流程。
3.4 可复制:先跑通一个点,再扩到一条线和一个工厂
制造业AI最稳妥的扩展方式是从最小可行场景开始:一个缺陷类别、一台关键设备、一个高耗能环节或一组核心SKU。先把数据、模型、接口、监控和责任流程闭环,再复制到相似点位。小模型的单点部署和版本管理更适合这种渐进式扩展。
四、到底怎么选:小模型、大模型还是混合架构?
真正的答案通常不是二选一。建议把任务拆开:哪些任务要求实时执行,哪些任务需要通用理解,哪些任务可以离线完成。然后让不同模型承担最擅长的部分。
判断维度 | 优先小模型 | 优先大模型 | 优先混合 |
任务性质 | 分类、回归、检测、预测、控制 | 问答、生成、跨文档理解、多模态分析 | 既要知识理解,又要现场执行 |
时延 | 毫秒级或亚秒级 | 秒级或分钟级可接受 | 现场低时延,后台离线分析 |
数据边界 | 不能出内网或原始数据敏感 | 数据可合规使用外部服务 | 原始数据留本地,只上传摘要 |
输出要求 | 稳定、确定、可复现 | 开放式、生成式、允许多样答案 | 大模型提方案,小模型做判定 |
部署规模 | 点位多、设备侧复制 | 集中式入口或低频调用 | 中心管理,多点执行 |
图3 推荐的混合策略:中心侧负责知识、训练与模型管理,多个边缘小模型在各生产单元实时执行。
一句话记忆|大模型做“大脑”——知识管理、方案生成、跨文档分析;小模型做“手脚”——实时检测、预测预警和设备控制。
五、动手前先回答这六个问题
如果你正在为一个工业AI场景选型,先别急着比较模型排行榜。把下面六个问题写在项目立项表里,答案会比模型名称更有用。
- 业务问题能否被清晰表达为分类、回归、检测或时序预测?
- 当前人工或规则方案的基线是多少,模型至少要提升到什么水平才值得投入?
- 从采集到执行,允许的端到端时延是多少?网络中断时能否降级运行?
- 哪些数据可以出厂,哪些必须留在生产网或企业内网?
- 一次误报、漏报或停机的业务代价分别是多少?
- 模型上线后由谁监控、复判、重训、发布和回滚?
下面这段简单的伪决策代码,可以帮助团队在讨论早期统一思路。它不是自动选型器,但能迫使大家先把约束说清楚。
def choose_route(latency_ms, data_can_leave_factory,
deterministic_output, task_is_general):
if latency_ms < 200:
return "edge small model first"
if not data_can_leave_factory:
return "local small model or private hybrid"
if deterministic_output:
return "task-specific small model first"
if task_is_general:
return "large model or hybrid"
return "compare a simple baseline before scaling up"
六、这套专栏接下来会怎么展开?
本系列不是只讲模型训练,而是围绕“准备—实施—深化”三阶十二步,讲清工业小模型从需求到产线、再到规模化运营的完整路径。
阶段 | 四个步骤 | 你最终要拿到的交付物 |
第一阶:准备 | 需求识别、场景评估、数据盘点、可行性验证 | 痛点清单、场景池、ROI估算、数据资产清单、快速原型 |
第二阶:实施 | 数据采集与标注、特征工程、模型训练与调优、部署上线 | 标准数据集、特征表、模型与评估报告、部署包和运维手册 |
第三阶:深化 | 效果监控、持续优化、知识沉淀、价值固化 | 监控看板、迭代记录、模型资产、SOP与推广机制 |
第一篇先解决“为什么是小模型”这道认知题。后续文章会逐步进入数据采集、清洗、标注、特征工程、模型选型、训练评估、边缘部署、MLOps、漂移检测与综合案例。每一篇都尽量回答一个现场问题,并给出可以直接复用的清单、代码或模板。
七、小结:在工业现场,适合比先进更重要
大模型与小模型不是替代关系,而是分工关系。制造业在实时性、稳定性、安全、成本与维护上有自己的硬约束,这决定了大量在线检测、预测预警和设备控制任务,更适合由专用小模型在边缘侧完成。
如果把全文压缩成三句话,就是:
- 先定义业务问题,再选择模型,不要把技术名词当成需求。
- 实时任务优先靠近现场,敏感数据优先留在本地。
- 大模型负责通用理解,小模型负责稳定执行,混合架构往往更符合工业现实。
下一篇预告|《三阶十二步框架速览:小模型落地的全局地图》——从需求识别到价值固化,先把30篇专栏的路线图铺开。