news 2026/1/12 1:08:18

Make MQ Great Again!COSCon‘25 x Pulsar Developer Day 2025 精彩回顾

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Make MQ Great Again!COSCon‘25 x Pulsar Developer Day 2025 精彩回顾

12 月 6-7 日,COSCon'25 第十届中国开源年会在北京市海淀区丽亭华苑酒店举办。本届大会以 「众智开源 Open Source, Open Intelligence」 为主题,汇聚全球开源力量,共话技术与生态。

作为 COSCon'25 的同场活动,Pulsar Developer Day 2025 汇聚了来自小红书、中原银行、360、中电金信、谙流科技及 StreamNative 等企业的技术专家与 Pulsar 社区爱好者,围绕 Pulsar 的实践落地、技术创新与生态演进展开深度分享,为行业呈现了一场兼具深度与实用性的技术盛宴,推动 Pulsar 社区在开源协作中持续成长。

小红书中间件团队的卢世吉、段林林、孟祥迎、张安伟四位工程师带来了题为《小红书在线 MQ 的特色实践》的分享。他们从架构设计、SDK 治理、生态贡献三大维度展开,详解了小红书 MQ 的三层架构 —— 运维管控层、Client SDK+Proxy、MQ 引擎,其中运维管控层通过统一 UI 实现限流、消息查询等多维度操作,保障服务可靠性;Events Client SDK 支持多语言接入,通过 Proxy 层实现 MQ 引擎的灵活治理与平滑迁移。针对 SDK 接入混乱的痛点,小红书通过改造 NameServer 收口新增接入、定时扫描改造存量系统的方式,半年内将标准化覆盖率从 30% 提升至 70%。此外,团队还分享了在 pulsar-java-contrib 中的技术贡献,包括 RPC 框架、扩展事务 API、PullConsumer 等新特性,为 Pulsar 生态注入新活力。

中原银行中间件团队负责人王东分享了《中原银行开源消息中间件的落地实践》。中原银行作为河南省属法人银行,在业务扩张中面临第一代 RabbitMQ 的脑裂风险高、扩展能力弱、性能瓶颈等问题。基于存算分离、云原生架构、高稳定性等核心优势,银行选择 Pulsar 作为第二代消息队列,并进行深度定制改造,构建了包含客户端 SDK、Pulsar Operator、集群管理端等模块的定制化体系。在部署层面,通过双中心与跨中心部署保障业务连续性,单节点故障可秒级切换。未来,中原银行将迈向智能化消息平台,打造智能运维助手、诊断分析工具,并探索 Pulsar 在 AI 多 Agent 通信场景的应用,为金融业务数字化转型提供更强大支撑。

360 消息队列研发王任义做了题为《Apache Pulsar在360消息队列PaaS平台上的探索与实践》的分享,聚焦 Pulsar 在企业级 PaaS 平台的探索与实践。王任义介绍,360 将 Pulsar 定位为在线业务核心消息队列,与 Kafka 形成离线与在线场景的互补。通过性能压测验证,Pulsar 在单分区 topic 下实现 0.3ms 低延迟与 150 万条 / 秒高吞吐,核心瓶颈集中在 Bookie 数据持久化。在 PaaS 平台建设中,360 依托 Pulsar 的弹性伸缩与原生多租户能力,实现资源组隔离,支持小流量共享、大流量独占的灵活部署模式。通过 ServerlessManager 实时监控指标,实现资源动态扩缩容与故障无感切换,最终使磁盘利用率从 10% 提升至 50%,用户成本降低 45 倍。未来,360 计划以 Pulsar 为核心构建统一事件总线,对接数据库 CDC 与大数据生态,拓展更多应用场景。

谙流科技 Kafka on Pulsar 研发负责人陶久明分享了《谙流科技在 Kafka on Pulsar 之上的探索》,介绍了 KoP(Kafka on Pulsar)的技术原理、核心优势与产品化实践。KoP 通过协议 handler 实现 Kafka 与 Pulsar 的无缝兼容,在 Topic、消息 ID、偏移量管理等方面建立映射关系,继承了 Pulsar 的多租户、云原生特性。其核心优势体现在秒级扩容、无数据迁移、资源利用率高、低延迟等方面,通过分片模型与存储优化,实现写入吞吐与存储效率的双重提升。在产品化建设中,谙流科技通过混沌测试、单元测试等多维度保障稳定性,修复了堆外内存溢出、元数据异常等关键问题,目前集群已支持每日 PB 级数据处理,峰值吞吐达 39GB/s。未来,团队将引入 Oxia 去 Zookeeper,适配公有云存储,进一步提升产品性能与灵活性。

StreamNative 高级软件工程师赵强带来了题为《下一代元数据平台: Oxia 实践》的分享。针对流处理系统中元数据规模大、更新频繁的挑战,Oxia 采用 “控制层 + 数据层” 的物理架构与分片逻辑架构,基于 LSM Tree 实现高写入吞吐,通过法定人数写入保障数据强一致性。Oxia 提供标准 KV 接口、版本控制、自动会话管理、通知机制等核心能力,可满足云原生场景下的元数据存储需求。在运维层面,Oxia 支持分片负载均衡、leader 均匀分布、故障自动恢复等自动化能力,还可通过亲和性配置优化资源调度,未来将支持分片自动拆分与合并。作为 Pulsar 生态的重要补充,Oxia 致力于成为更可扩展、更稳健的云原生元数据系统,为分布式应用提供底层支撑。

中电金信大数据开发刘思楠详细拆解了 Apache Pulsar 延迟消息的实现机制与混合架构演进。Pulsar 原生支持延迟可见模式,提供 InMemory 与 Bucket 两种实现,其中 Bucket 模式通过将索引卸载到 BookKeeper,支持超大规模延迟消息场景,核心流程包括消息路由、固化刷盘、索引加载等关键步骤。但原生实现存在性能瓶颈与功能缺失等问题,为此,引入外部延迟消息服务 Chronos,其基于 RocksDB 的 KV 存储、秒级扫描推送机制,实现高效的延迟消息调。Pulsar 与 Chronos 的混合架构,支持客户端与 Broker 侧两种集成方式,兼顾原生优势与扩展能力。该方案为延迟消息场景提供了更灵活的解决方案,也为 Pulsar 功能拓展提供了新思路。

现场还颁发了社区最佳实践及贡献者奖项。

Pulsar Developer Day 2025 汇聚了多个领域的技术前沿实践,从企业落地案例到核心技术创新,从性能优化到生态拓展,全方位展现了 Apache Pulsar 的强大生命力与广阔应用前景。

展望未来,随着云原生、大数据、AI 等技术的深度融合,消息中间件将面临更多复杂场景的挑战。Pulsar 社区将持续秉持开源理念,积极拥抱更多场景,在性能优化、功能拓展、生态兼容等方面持续发力,推动技术创新与实践落地。我们也期待更多企业与开发者加入 Pulsar 生态,共同探索消息中间件的无限可能,让 MQ 技术在开源协作中不断突破,为分布式智能系统的稳定、高效运行提供更坚实的支撑。

Apache Pulsar 作为一个高性能、分布式的发布-订阅消息系统,正在全球范围内获得越来越多的关注和应用。如果你对分布式系统、消息队列或流处理感兴趣,欢迎加入我们!

Github:

https://github.com/apache/pulsar

扫码加入 Pulsar 社区交流群

最佳实践

互联网

腾讯BiFang | 腾讯云 | 微信 | 腾讯 | BIGO | 360 | 滴滴 | 腾讯互娱 | 腾讯游戏 | vivo | 科大讯飞 | 新浪微博 | 金山云 | STICORP | 雅虎日本 | Nutanix Beam | 智联招聘 | 达达 | 小红书

金融/计费

腾讯计费 | 平安证券 | 拉卡拉 | Qraft | 甜橙金融

电商

Flipkart | 谊品生鲜 | Narvar | Iterable

机器学习

腾讯Angel PowerFL | Discord

物联网

云兴科技智慧城市 | 科拓停车 | 华为云 | 清华大学能源互联网创新研究院 | 涂鸦智能

通信

江苏移动 | 移动云

教育

网易有道 | 传智教育

推荐阅读

免费可视化集群管控 | 资料合集 | 实现原理 | BookKeeper储存架构解析 | Pulsar运维 | MQ设计精要 | Pulsar vs Kafka | 从RabbitMQ 到 Pulsar | 内存使用原理 | 从Kafka到Pulsar | 跨地域复制 | Spring + Pulsar | Doris + Pulsar | SpringBoot + Pulsar

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2025/12/17 11:47:20

ControlNet助力!电子科大港理工等提出Refaçade:图像编辑新框架

点击下方卡片,关注“CVer”公众号AI/CV重磅干货,第一时间送达点击进入—>【顶会/顶刊】投稿交流群添加微信号:CVer2233,小助手拉你进群!扫描下方二维码,加入CVer学术星球!可以获得最新顶会/顶…

作者头像 李华
网站建设 2026/1/11 17:53:33

12.17 富文本编辑器wangEditor的使用

wangEditor5介绍 wangEditor5 —— 轻量级 web 富文本编辑器,配置方便,使用简单。支持 IE10 浏览器。 官网:www.wangEditor.com 下载 注意: wangeditor都是小写字母 // 下面两个依赖都需要安装 npm i wangeditor/editor npm …

作者头像 李华
网站建设 2025/12/17 11:45:41

拿到Photoshop的源码了,发现两个意想不到的秘密......

今天看到了Photoshop1.0的源码,有两个想不到:1. 竟然没有用C语言,而是PASCAL。2. 代码中几乎没啥注释。仅有的一点儿注释也都是汇编相关的,不过没有注释根本不是问题,因为代码写得太清晰易懂了,添加注释反而…

作者头像 李华
网站建设 2025/12/17 11:45:39

SQL常用语法全解析:从入门到进阶的实战指南

SQL(Structured Query Language,结构化查询语言)是操作关系型数据库的核心工具,无论是后端开发、数据分析、运维监控,还是大数据处理,SQL都是不可或缺的技能。从简单的“查询数据”到复杂的“多表关联分析”…

作者头像 李华
网站建设 2025/12/17 11:45:34

基于SSM的社区外来务工人员管理系统【2026最新】

作者:计算机学姐 开发技术:SpringBoot、SSM、Vue、MySQL、JSP、ElementUI、Python、小程序等,“文末源码”。 专栏推荐:前后端分离项目源码、SpringBoot项目源码、Vue项目源码、SSM项目源码、微信小程序源码 精品专栏:…

作者头像 李华
网站建设 2025/12/17 11:44:45

业务总在“催合同”?不是他们急,是系统没跟上!

“合同不是流程的终点,而是业务执行的起点。” —— Gartner《2024 CLM 市场指南》但在现实中,许多企业的合同管理却让业务团队苦不堪言: 起草靠微信传 Word,审批靠私聊催领导,签完合同就“失联”…… 不是业务不懂规矩…

作者头像 李华