大家好，我是展菲，目前在上市企业从事人工智能项目研发管理工作，平时热衷于分享各种编程领域的软硬技能知识以及前沿技术，包括iOS、前端、Harmony OS、Java、Python等方向。在移动端开发、鸿蒙开发、物联网、嵌入式、云原生、开源等领域有深厚造诣。
图书作者：《ESP32-C3 物联网工程开发实战》
图书作者：《SwiftUI 入门，进阶与实战》
超级个体：COC上海社区主理人
特约讲师：大学讲师，谷歌亚马逊分享嘉宾
科技博主：华为HDE/HDG
我的博客内容涵盖广泛，主要分享技术教程、Bug解决方案、开发工具使用、前沿科技资讯、产品评测与使用体验。我特别关注云服务产品评测、AI 产品对比、开发板性能测试以及技术报告，同时也会提供产品优缺点分析、横向对比，并分享技术沙龙与行业大会的参会体验。我的目标是为读者提供有深度、有实用价值的技术洞察与分析。
展菲：您的前沿技术领航员
👋 大家好，我是展菲！
📱 全网搜索“展菲”，即可纵览我在各大平台的知识足迹。
每周定时推送干货满满的技术长文，从新兴框架的剖析到运维实战的复盘，助您技术进阶之路畅通无阻。
文章目录
- 引言
- 一、大模型只是 AI 世界的“大脑”
- 二、为什么 AI 落地越来越像建设一座城市
- 三、AI 为什么越来越依赖 Runtime
- 四、数据基础设施比模型更难建设
- 五、为什么 AI 时代会重新定义 API
- 六、Memory 可能比模型更重要
- 七、为什么 Agent Infrastructure 会成为新赛道
- 八、AI 基建真正决定成本
- 九、鸿蒙给 AI 基建带来的启发
- 十、未来最大的公司可能不是模型公司
- 十一、AI 正在进入“基建竞争时代”
- 第一阶段
- 第二阶段
- 第三阶段
- 总结
- 第一阶段
- 第二阶段
- 第三阶段
引言
过去两年，AI 行业最热的话题几乎都围绕着一件事：
大模型大家讨论的是：
参数规模 推理能力 上下文长度 Benchmark排名仿佛未来 AI 的竞争只有一个方向：
谁的模型更强于是行业不断追逐：
更大的GPU 更大的训练集群 更大的参数量但当越来越多企业开始真正部署 AI 时，一个有趣的现象出现了。很多公司已经拥有：
先进模型却依然无法大规模落地，很多团队会发现：
模型很聪明 系统却不好用甚至出现问题：
模型效果90分 业务价值30分因为现实世界里，决定 AI 成败的往往不是：
Model而是：
Infrastructure也就是：
AI 基础设施于是行业开始进入一个新的阶段：
别再只聊大模型了，AI 的“基建”才是未来真正的竞争力。
一、大模型只是 AI 世界的“大脑”
很多人理解 AI：
模型 = AI但实际上并不是，如果把 AI 看成一个人。那么：
大模型 = 大脑负责：
理解 推理 决策 生成例如：
result=llm.chat("帮我规划一次东京出差")模型能够生成：
机票建议 酒店建议 行程规划看起来很厉害，但问题来了。它真的完成任务了吗？其实没有，因为：
没有订机票 没有订酒店 没有创建日历只是生成了一段文字，所以：
模型负责思考，但世界并不会因为思考而改变。
二、为什么 AI 落地越来越像建设一座城市
很多企业第一次做 AI 时会认为：
接个模型 项目就完成了但很快发现，真正复杂的是后面这些东西：
数据系统 权限系统 工作流系统 监控系统 工具系统这其实特别像建设一座城市。城市的发展靠什么？不是：
市长而是：
道路 供电 供水 通信 交通同样的道理，AI 的发展靠的也不是只有模型。而是：
数据 计算 存储 调度 生态这些基础设施，因为：
再聪明的大脑，也需要身体和神经系统。
三、AI 为什么越来越依赖 Runtime
过去的软件：
启动 运行 关闭就结束了，例如：
main()exit()但未来 AI 系统完全不同，例如一个企业 Agent：
接收任务 分析任务 调用工具 执行任务 检查结果 继续执行整个过程可能持续：
几小时 几天 甚至几个月这时候：
状态管理 任务恢复 异常重试就变得极其重要，例如：
classRuntime:defcheckpoint(self):passdefrecover(self):passdefretry(self):pass这类能力其实和模型毫无关系，但却决定系统能否长期运行。
所以未来：
AI 拼的不是推理能力，而是运行能力。
四、数据基础设施比模型更难建设
很多企业发现一个现实问题：模型接入只需要几天，数据治理可能需要几年。
例如：
CRM ERP MES OA里面的数据：
格式不同 标准不同 权限不同假设用户问：
本季度哪些客户流失风险最高？AI 需要：
crm_data=crm.query()order_data=erp.query()service_data=ticket.query()然后才能分析，问题是：很多企业连这些数据都没有打通。于是：
模型很强 数据很乱最终：
AI 无法工作因为：
垃圾输入，永远不会产生优秀输出。
五、为什么 AI 时代会重新定义 API
过去互联网时代：
API是开发者使用的，未来 AI 时代：
API会成为 Agent 使用的，例如：
create_order()cancel_order()query_customer()过去这些接口服务的是：
前端页面未来服务的是：
Agent于是软件设计开始变化，过去：
UI First未来：
API First因为：
AI 不会点击按钮，但会调用接口。
六、Memory 可能比模型更重要
很多人认为：
参数量 = 智能但现实中真正影响体验的往往是：
记忆例如，用户昨天说：
我下周要去东京出差今天说：
帮我安排一下行程如果 AI 忘了昨天的内容：
体验极差如果 AI 记得：
体验瞬间提升所以未来 AI 系统一定会拥有：
Short Memory Long Memory Workspace Memory例如：
memory.save(user_context)memory.restore(user_context)未来很多公司会发现：
Memory Layer的重要性甚至超过模型层，因为：
没有记忆的 AI，每天都像第一次见面。
七、为什么 Agent Infrastructure 会成为新赛道
当一个 Agent 出现时问题不大，但未来会变成：
100个Agent 1000个Agent 10000个Agent例如：
客服Agent 销售Agent 财务Agent 开发Agent 运营Agent这时候最难的问题已经不是：
Agent聪不聪明而是：
Agent怎么协作例如：
scheduler.dispatch()scheduler.sync()scheduler.retry()需要统一调度，否则会出现：
重复执行 资源竞争 状态冲突所以未来会出现越来越多的系统：
Agent Runtime Agent Scheduler Agent OS八、AI 基建真正决定成本
很多企业部署 AI 后最先感受到的不是智能，而是：
账单例如：
推理成本 存储成本 网络成本 GPU成本如果系统设计不好，可能出现：
GPU利用率20%但企业却支付：
100%的费用所以未来越来越重要的是：
KV Cache Batch Scheduling Memory Pool例如：
cache.hit()batch.execute()memory.reuse()这些优化，因为未来竞争不只是：
谁最聪明还包括：
谁最便宜九、鸿蒙给 AI 基建带来的启发
如果观察鸿蒙的发展，会发现一个很明显的特点：
统一能力 统一状态 统一调度例如：
手机 平板 PC 车机共享同一个生态，AI 世界其实也在走相同路线。
过去：
模型孤立 工具孤立 数据孤立未来：
统一Runtime 统一Memory 统一Agent网络越来越重要，因为未来 AI 需要面对的是：
跨设备 跨系统 跨组织的复杂环境。
十、未来最大的公司可能不是模型公司
回顾互联网历史，真正改变世界的往往不是：
某个应用而是：
基础设施平台例如：
云计算平台 移动操作系统 数据库平台AI 时代同样如此，未来真正有可能建立壁垒的。
未必是：
模型提供商而可能是：
Runtime平台 Memory平台 Agent平台 数据平台因为这些东西一旦进入企业，就会成为：
数字基础设施很难被替换。
十一、AI 正在进入“基建竞争时代”
如果回顾 AI 发展路径，会发现行业正在经历三个阶段：
第一阶段
模型竞争核心问题：
能不能推理第二阶段
Agent竞争核心问题：
能不能执行第三阶段
基础设施竞争核心问题：
能不能长期运行因为未来限制 AI 的已经不只是：
模型能力而是：
数据流动能力 资源调度能力 状态管理能力 生态协同能力这些全部属于：
Infrastructure总结
很多人现在谈 AI，讨论的还是：
参数规模 推理能力 上下文长度但真正进入产业以后，企业最关心的问题往往变成：
怎么接系统？ 怎么管数据？ 怎么控成本？ 怎么长期运行？这些问题几乎都和模型无关，而属于：
AI 基建所以未来 AI 行业的发展方向，很可能是：
第一阶段
大模型革命第二阶段
Agent革命第三阶段
基础设施革命而未来真正改变世界的，也许不只是那个最聪明的模型：而是那个能够连接数据、调度资源、管理 Agent、支撑亿万任务运行的系统。因为 AI 的终局，可能不是一场模型战争。
而是一场：
基础设施战争。
