news 2026/7/4 19:41:57

Qwen3.5-9B PD 分离 Benchmark 汇总

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Qwen3.5-9B PD 分离 Benchmark 汇总

Qwen3.5-9B PD 分离 Benchmark 汇总

测试环境:2 × 8×H100 (H100-003 Prefill, H100-004 Decode),TP=1,Mooncake RDMA


1. 单条请求 — 不同 Prompt 长度

Prompt 长度实际 tokensTTFTTPOT吞吐总耗时
短 (~25 tok)1649.1 ms6.4 ms153.5 tok/s3.34 s
中 (~500 tok)85066.9 ms6.4 ms152.3 tok/s3.36 s
长 (~2.5k tok)6,33080.1 ms6.5 ms150.3 tok/s3.41
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/7/4 19:41:50

解决Obsidian中嵌入Claude Code的问题

之前在看直播的时候,别人秀出了他的Obsidian知识库,我看到右侧多了一个类似Claude Code的命令行终端,这样在知识库中进行复盘和整理的时候就很方便了。我也很想有一个,于是尝试了动手安装。前置条件 我本地已经安装了Claude Code已…

作者头像 李华
网站建设 2026/7/4 19:41:05

鸿蒙物理 108 篇 第六十四篇 水气润下流转定则

64. 水气润下流转定则 一、核心总纲 水气为阴行柔质,秉润化、下行、流动、渗透四大核心属性,由低热长波、连绵全域场象融合而成。本篇解析水气润下流转的物理机制、形态分类、全域运行规律,建立水气完整定则体系。 二、水气形态与属性定性 水气属少阴柔阴之气,主润、主…

作者头像 李华
网站建设 2026/7/4 19:35:12

如何用BilibiliDown三步搞定B站视频下载?小白也能掌握的完整指南

如何用BilibiliDown三步搞定B站视频下载?小白也能掌握的完整指南 【免费下载链接】BilibiliDown (GUI-多平台支持) B站 哔哩哔哩 视频下载器。支持稍后再看、收藏夹、UP主视频批量下载|Bilibili Video Downloader 😳 项目地址: https://gitcode.com/gh…

作者头像 李华
网站建设 2026/7/4 19:25:41

好客搜GEO优化系统 与市面同类服务核心差异对比

当前市场涌现多款 GEO 相关服务,产品交付标准、技术能力、售后运维参差不齐,结合好客搜十年搜索技术沉淀,从底层技术、运营模式、合规程度、配套服务四个维度,区分智搜 GEO 与市面同类服务的核心区别,方便代理商与企业…

作者头像 李华
网站建设 2026/7/4 19:24:52

OpenCV实战教程:从环境搭建到人脸识别项目开发

在图像处理、计算机视觉乃至AI应用开发中,OpenCV都是一个绕不开的基石库。无论是想入门计算机视觉的新手,还是需要在项目中集成图像识别、人脸检测等功能的开发者,都可能会在环境搭建这一步就遇到各种“拦路虎”。本文旨在提供一个从零开始的…

作者头像 李华