我clone了一个744星的开源AI网关,想搞清楚企业到底在焦虑什么
标签:上手实战 · 约3500字 · 阅读8分钟
你知道你们公司现在有多少个大模型的API key在活着吗?
不是开玩笑。市场部用ChatGPT写文案,注册了一个。开发部用Claude review代码,注册了一个。产品经理用GPT做原型验证,又注册了一个。实习生走的时候,他那个邮箱注册的key可能还在某个脚本里跑着。
没人统计过。因为没人觉得这是个需要统计的事。
直到有一天出事了。要么是账单爆了,要么是数据漏了,要么是某个人离职三个月后你发现他接的那个AI服务还在扣钱。这时候你才会突然意识到,原来散落本身就是一个问题。
最近有个变化挺有意思。GitHub上一类专门做「企业级AI网关」的项目开始热起来了。这类东西做的事情很简单,就是把散落的大模型API收进一个口子,统一管key、管流量、管账单、管日志。
我clone了一个下来。744个star,最近30天涨了341。不是什么大项目,但这个增速说明有一波人正在集中地找这类东西。
我想搞清楚,到底什么东西戳到了他们。
这个项目叫AIHelm,中文叫AI纳管平台。
clone完第一件事,看README。
说实话,很多开源项目的README写得跟天书一样。恨不得把所有配置参数都塞进第一段,你还没看懂它是干嘛的,先被一堆YAML配置劝退了。AIHelm的README倒是意外地干净。三步。git clone,cp .env.example .env,docker-compose up -d。没了。
我一开始觉得是不是少了点什么。翻了两遍,真就这三步。
怎么说呢,我其实是带着偏见来的。
因为「AI网关」这个词我看过太多了。市面上打着这个旗号的项目没有一百也有八十。大部分做的事情都差不多,就是包一层API转发,加个key管理,然后管自己叫「企业级AI管理平台」。我每次看到这种项目心里都会打个问号,你这个「企业级」到底是几个人的企业。
但clone下来真正翻了代码和文档之后,我发现这个项目想的不是「怎么包一层API」这么简单的事。
回到一个最基本的问题。你公司现在有多少个团队在用AI?
我跟你说,如果你去问你们公司的IT负责人这个问题,大概率他自己也答不上来。不是说他不称职,是因为这事根本没人管。市场部自己注册了个OpenAI的key,用来跑文案生成。开发组用Claude的API做代码review。设计组搞了个Midjourney的订阅。还有几个人的ChatGPT Plus是拿公司信用卡刷的。行政那边甚至有人用Kimi整理会议纪要。每个团队各接各的API,各买各的key,各花各的钱,各存各的密钥。
你想想看,这事有多要命。
不是几十个API key散落在各个团队的飞书文档、企业微信聊天记录、甚至某个人的浏览器书签里。是这些key对应的权限、成本、数据流向,全都处于一种「薛定谔的管」的状态。你以为管了,其实没管。你以为没出事,其实只是还没被发现。
历史不会重复,但会押韵。
坦率的讲,这种感觉我在2014年见过一模一样的。那一年我还在做企业IT咨询。当时企业面临的问题叫「shadow IT」,影子IT。各个部门自己买SaaS,自己注册账号,自己刷公司信用卡。Dropbox存文件,Evernote记笔记,各种野路子CRM管客户。IT部门完全不知道公司的数据散落在哪些云服务上。直到有一天,某个SaaS服务商被黑了,客户数据泄露了,CEO跑来问IT总监「我们的数据怎么会在那个平台上」,IT总监一脸懵。
那次之后,企业花了好几年才慢慢建立起SaaS的管控体系。统一身份认证、数据防泄漏、云安全态势管理,一整套东西。代价不便宜。
现在呢?
现在的「shadow AI」就是2014年「shadow IT」的重演。只不过这次更快、更分散、风险更大。因为AI不只是数据存储的问题。你的员工在把公司的合同、源代码、客户信息、财务数据,直接喂给外部的大模型。不是存在某个云盘上被动等待泄露,是主动地、一条一条地,发出去。
而且没人知道发了什么。
回到AIHelm这个项目。我翻了它的功能模块之后,理解了那341个star背后的人在焦虑什么。他们焦虑的不是「怎么用AI」,是「怎么知道谁在用AI、用AI干了什么、花了多少钱、有没有把不该发的东西发出去了」。
这个项目做的事情,说到底就是在一个统一入口上,把这四个问题都接住了。所有AI调用走一个网关,key统一发放和回收,成本按团队按项目按模型拆开,请求内容过安全策略,调用记录全部留痕。
听着好像不难对吧。
但难的不是技术实现。难的是,一个公司愿不愿意把散落在各处的AI调用,收口到一个地方来。这需要的不只是一个技术决策,是一个组织决策。你得让市场部交出他们自己买的key,改用公司统一分配的。你得告诉开发组,以后不能直接调Claude的API了,得走公司的网关。每个团队都会觉得被限制了,被管控了,被 slowed down 了。
这个阻力是真实的。我非常理解。
你想想看,市场部的小伙子上周刚自己搞通了ChatGPT的API调用,文案产出效率翻了一倍,正高兴呢。你跟他说,以后不能直接调了,要走网关。他第一反应是什么?「是不是又要走审批流程了?」「会不会变慢?」「你们是不是不信任我?」这些反应都合情合理。你不能怪他们。
但反过来想,如果不收口,出事的时候谁负责?
我自己跑了一遍docker-compose up。起来之后打开后台,第一感觉是,这玩意比我想象的要重。不是部署重,三步确实起来了。重的是它管的事情多。模型管理、key管理、策略管理、成本报表、调用日志、审计溯源。每一个模块单独拿出来都不复杂,但放在一起,你能感觉到它想覆盖的是一整条治理链路。不是给你一个API转发器,是给你一套AI治理的基础设施。
我注意到一个细节。它的key管理支持给每个团队、每个项目分配独立的key,但所有key背后共用的是一套模型配置。什么意思呢,就是你可以给市场部一个key,给开发组一个key,但他们调用的模型、走的路由、限的额度,都是你在后台统一控的。这个设计挺聪明的。对用户来说,他们还是「有自己的key」,心理上没有被剥夺感。对你来说,所有的流量都在你的视线里。
跑了一下午,我最大的感受其实不是这个产品多牛。
说实话我也不确定它是不是这个赛道里最好的选择。毕竟开源社区里还有LiteLLM、One-API这些项目,商业方案就更多了。但我觉得有一件事挺确定的。
这个项目的存在本身,那744个star本身,就说明了一件事。
有足够多的企业,已经走到了「用上AI」之后的那个阶段了。
他们不缺工具,不缺模型,不缺API。这些现在太容易拿到了。他们缺的是一根绳子,把散落的东西串起来,让他们能看得见、管得住、说得清。
我突然想到了1880年代。
那一年,电力开始在美国工厂里普及。很多工厂主花大价钱买了发电机和电动机,装在自己的工厂里。但装完之后,很多人发现,生产效率并没有显著提升。因为他们的做法,只是把蒸汽机换成了电动机。整个工厂的布局、流程、管理方式,全都没变。一根传动轴从天花板穿过去,所有机器挂在同一根轴上,跟蒸汽机时代一模一样。电动机只是替换了动力源,但没有改变生产方式。
真正吃到电力红利的,是后来那批人。他们想明白了一件事,电力的特性不是「更强的动力」,是「可以分布式传输」。于是他们拆掉了天花板上的传动轴,把电动机装到每一台机器旁边,重新设计工厂布局,用传输电线代替传动轴。生产效率翻了十倍不止。
AI也是一样。
现在大部分企业的做法,就是把蒸汽机换成电动机。市场部原来手写文案现在用ChatGPT写,开发部原来自己review代码现在用Claude review。工具换了,流程没变,组织没变,治理方式没变。
但已经有一批人,开始想「AI到底是个什么东西」了。他们不再问「怎么用AI」,开始问「怎么围绕AI重新组织我们的工作方式」。而这件事的前提,是你得先看得见AI在你组织里到底是怎么流动的。你连电表都没装,怎么重新设计电路?
这大概就是AIHelm这类项目真正在做的事。它不是给你一个更强的电动机,是帮你把电表装上。
部署十分钟。
真正难的是,部署之后那场关于「我们到底要怎么管AI」的对话。
那个对话,可能要十年。但总得有人先把电表装上。
对了,如果你也想自己装一遍试试,代码在 GitHub 上开源,clone 下来照着 README 走就行。懒得装的话,官网有在线 demo,可以先去点两下。
技术细节基于 GitHub v0.1.19 及官方文档,发布前请在干净环境验证命令