news 2026/6/3 16:15:42

EaaS 平台新功能上线:Token 管理,让大模型调用可计量、可分配、可追溯

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
EaaS 平台新功能上线:Token 管理,让大模型调用可计量、可分配、可追溯

联旌智能 EaaS 平台正式上线Token 中心模块。无论是采购的外部商用大模型,还是校内自建的本地模型,接入平台后即可实现统一的 Token 计费、额度分配和消费追踪。

核心能力

Token 管理覆盖从模型接入到逐笔消费的全链路:

模型接入与定价

  • 支持外部大模型(DeepSeek、Qwen 等云端 API)和本地大模型(基于 vLLM 等框架自建服务)两类接入
  • 每个模型独立设置输入/输出 Token 单价(点数/百万 Token),适配不同模型的成本结构

额度分配与限流

  • 按用户或课题组分配 Token 额度上限,用超即止
  • TPM(每分钟 Token 数)/ RPM(每分钟请求数)双重限流,保护后端模型服务不被单一用户打满

API Key 管理

  • 师生在用户端自行创建和管理 Key,无需管理员介入
  • 管理员端可查看所有 Key 的使用情况,但不能代操作,保障密钥安全
  • 每个 Key 独立展示已消耗 Token 和速率限制

消费追踪

  • 每次 API 调用的完整记录
  • 满足科研经费审计和课题组成本核算需求

管理端看什么

  • 用户用量— 每位师生的已消耗 Token、额度上限、创建/更新时间
  • API KEY— 所有已创建 Key 的别名、归属用户、Token 消耗、速率限制
  • 消费明细— 逐笔调用的请求 ID、模型、Token 数、费用、API Key、开始时间

用户端怎么用

师生登录平台进入 AI 模型 模块:

  1. 模型广场— 查看可用模型及 Token 单价
  2. 我的额度— 查看 Token 余额,额度不足时在线购买
  3. API Key 管理— 自行创建 Key,通过平台统一 API 地址调用模型(OpenAI 兼容接口)

一个 API 地址、一个 Key,调用平台所有模型,不关心后端细节。

对于算力平台建设者,Token 管理意味着什么

  • 用量有数— 谁调用了多少 Token,不再是一笔糊涂账
  • 成本可控— 定价 + 额度 + 限流三层机制,防止资源滥用
  • 审计可查— 逐笔消费明细,科研经费管理有据可依
  • 用户自助— Key 的创建和额度购买都由用户自行完成,减少管理负担

典型场景

  • 高校网络信息中心— 按院系分配 Token 额度,统一审计全校模型使用情况
  • 科研课题组— 将自建本地模型接入平台,组内成员自助使用,PI 按 Token 消耗掌握资源使用
  • 交叉学科平台— 外部模型 + 本地模型混用,Token 统一计量,分账清晰
  • 课题组自研模型校内服务— 课题组自主研发的大模型直接接入 EaaS 平台,校内师生按 Token 消耗付费(从各自课题组/项目经费扣减)。课题组保留模型的所有权和运营权,通过平台的 Token 计费机制获得合规的校内结算通道,学校信息中心同时掌握全部使用数据和收入明细

联系我们

已部署 EaaS 的客户可直接升级免费使用。如需演示或了解接入方案:

📞 400-038-6608

🌐 官方网站

关于联旌智能

联旌智能科技(上海)有限公司

EaaS平台自主研发者——为高校、政府、科研机构与政企提供HPC高性能计算与AI智算一体化解决方案。

我们以EaaS平台为核心,整合容器编排、虚拟化等技术,实现异构算力的统一纳管与智能调度,帮助客户高效应对科学计算、大模型训练与推理、教学实训等复杂算力需求。

核心产品:EaaS高性能计算云平台|Mini EaaS

配套服务:HPC/AI集群部署|分布式存储部署|定制化解决方案

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/3 16:15:11

构建企业级区块链溯源系统:Hyperledger Fabric V2.5实战指南

构建企业级区块链溯源系统:Hyperledger Fabric V2.5实战指南 【免费下载链接】fabric-trace 基于区块链Hyperledger Fabric V2.5的农产品溯源/商品/通用溯源应用模板,部署简单,附压测工具、区块链浏览器,文档详细。可以快速使用本…

作者头像 李华
网站建设 2026/6/3 16:14:34

2026年掌握C语言可以干什么工作? 还能找到高薪好工作吗

到2026年,掌握C语言不仅能找到工作,而且依然能冲击高薪岗位,前提是你不止步于“语法层面”,而是进入某个强依赖C语言的垂直领域。C语言永远不会“过时”,它只是退到了更底层、更核心的位置——那里恰好是薪资的高地。一…

作者头像 李华
网站建设 2026/6/3 16:10:59

通达信缠论插件终极指南:3分钟实现专业级K线分析

通达信缠论插件终极指南:3分钟实现专业级K线分析 【免费下载链接】Indicator 通达信缠论可视化分析插件 项目地址: https://gitcode.com/gh_mirrors/ind/Indicator 通达信缠论可视化插件是一款基于C开发的智能技术分析工具,专为通达信软件用户设计…

作者头像 李华
网站建设 2026/6/3 16:10:14

艾多美模式制度开发:解密社交电商的财富密码

艾多美模式制度开发艾多美(Atomy)的商业模式以会员制社交电商为核心,结合直销与分销机制。其制度设计通常包括以下要素:会员层级:分为普通会员、VIP会员、经销商等,不同层级享有不同权益(如折扣…

作者头像 李华