— 智微工业线上团队分享 —
工业 AI 项目搁浅，多半不是算力不够，而是散热和环境两项先出问题。这篇文章按采购决策顺序讲五步：算力、热设计、环境、软件交付、扩容，最后是一张可以直接抄进技术协议的验收单。参数示例取自智微工业 AII 系列公开资料。
第一步：把模型规模换算成机型
先定要跑的模型，再定机器，顺序不能反。不同参数规模的模型对显存和算力的需求差一个数量级，下表是 AII 系列五个在售机型与开源模型的实测对应关系（Qwen3.8/3.5，工程估算值）：
三条选型经验：
• 27B 是性价比分水岭。NVFP4 量化后单卡即可跑 27B，适合知识问答、工单质检、报告生成；显存减半、精度损失可控。
• 双卡看并发，不看单流速度。2 卡张量并行 + MTP 把 27B 单流提到 110~120 tok/s；两路 NVFP4 独立并发总吞吐 150~165 tok/s——多工位同时调用时后者才发挥作用，按并发数选，不按单流选。
• MoE 模型看激活参数。122B-A10B 激活仅 10B，INT4 量化后 4×5090 可跑约 100 tok/s 并支撑 16 路以上 Agent 并发调度；397B-A17B 这类超大规模 MoE 私有化部署，需要 4×RTX PRO 6000 96GB（单卡 2 PFLOPS）。
另外注意：边缘视觉质检（表面缺陷检测、工艺参数推荐）不必上 5090，AII-W680-W-L1 可选配 RTX 5060 16G，跑 Qwen3.5-9B 多模态约 40 tok/s，够用且省一半预算。
第二步：先算热，再看算力
工作站级加速卡单卡满载约 600W，4 卡就是 2.4kW——约等于一个标准风冷机柜的热密度，装进半个机柜还要 7×24 小时运行。风冷在这个热密度下降频是必然的，算力标称再高也跑不住。
AII 系列的做法是 CPU/GPU 独立封闭式液冷：发热件与空气隔离，防漏设计，双 360mm 水冷排按 2.4kW 热负荷配置。结果是两条硬指标：满载整机噪声 <50dB（可直接放办公区、车间值班室），持续运行不降频（标称算力等于可用算力）。
给采购的建议同样适用于任何品牌：签约前要求供应商做四卡满载演示，摸出风口、听噪声、看持续频率是否回落。2026 年 10 月工博会上，AII 系列四卡满载主机就是在观众耳边跑的现场通电演示——敢这么验货，才是液冷做好了。
第三步：环境六项，写进协议
车间和机房是两个世界。工业部署环境验收至少查六项，右列为 AII 系列参考值：
石化、电力等行业另有信创要求时，注意 OS 支持：AII 系列 1/2 卡机支持 Windows 10/11 与 Ubuntu 22.04，4 卡机（AII-W790-W-L4）加配麒麟 V10，国产化替代路线留好了。
第四步：软件交付，合同里写清楚
硬件到货只完成一半，Agent 应用调试耗时常常超过硬件交付本身。这一步查三项：
• 运行环境是否预装。AII 系列出厂预装 Agent OS（任务编排、会话记忆、工具调用、模型调度五层架构）与推理运行环境，DeepSeek、Qwen 等主流开源模型完成预适配与推理调优，通电即跑业务，不需要现场从零装 CUDA 和推理框架。
• 运维通道是否齐全。4 卡机标配 BMC（ASPEED AST2600，支持 IPMI 2.0），可带外管理——系统宕机也能远程重启重装，这对无人车间是刚需。配套智微管理平台提供监控告警、日志审计与远程运维。
• 二次开发是否开放。Agent OS 提供 OpenAI 兼容 RESTful API 与 SDK，ISV 和企业自研团队可直接对接现有业务系统，关键环节支持人工确认与权限审计——智能体从试点到生产，治理这层绕不开。
第五步：按扩容路径下单
AII 系列按 1→2→4 卡梯度设计，塔式机身尺寸一致（1/2 卡 530×245×556mm，4 卡 530×245×660mm），不用机房不用机柜，车间办公室即可部署。建议首期按当前负载选型、预留升级位：视觉质检单卡起步，扩到知识库问答上 2 卡，做多 Agent 协同上 4 卡。跨档换机比同档升卡成本低得多，所以首期宁可低配，不要超配。
可参考的验收单
附注：文中机型规格与性能数据引自智微智能官网；性能为基于 Qwen3.8/3.5 公开实测数据的工程估算值，实际以具体配置为准。
本文内容均为技术经验分享，欢迎个人学习与交流引用（请注明来源）。未经授权，请勿用于商业用途。
