news 2026/4/5 19:10:15

互联网核心系统架构白皮书:从 MySQL 到千万 QPS 的全链路工程体系

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
互联网核心系统架构白皮书:从 MySQL 到千万 QPS 的全链路工程体系

流量工程 · 缓存体系 · 写削峰 · CQRS · 异构存储 · 事件驱动 · 金融级稳定性设计


一、什么才是真正的“千万 QPS”?

先给出一个行业级结论:

千万 QPS 从来不是 MySQL 的能力,而是整个系统工程能力。 MySQL 在真正的千万 QPS 架构中,只承担 0.1%~1% 的请求量

真实系统 QPS 分担比例模型:

层级承担比例
L1 本地缓存60% ~ 80%
L2 Redis15% ~ 30%
L3 ES / ClickHouse3% ~ 5%
MySQL0.1% ~ 1%

🔒【生产级增强说明】 如果你的 MySQL 实际 QPS 已经接近百万级,系统一定在“亚健康”状态:

  • 锁冲突会指数上升
  • 复制延迟无法控制
  • 任何一次抖动都会导致雪崩

所以架构目标不是让 MySQL 扛住千万,而是让 MySQL 尽量无感


二、整体架构全景总览

QPS 分流效果:

本地缓存 ≈ 70% Redis ≈ 25% ES/CH ≈ 4% MySQL ≤ 1%

三、单机 MySQL 性能极限优化

目标:达到单机性能瓶颈(通常 2~10 万 QPS)


1. 硬件与 OS 优化

# 使用NVMe SSD替代SATA SSD # 内存至少128GB以上 # CPU核心数32+,开启超线程 # OS参数调优 echo "net.core.somaxconn = 65535" >> /etc/sysctl.conf echo "net.ipv4.tcp_max_syn_backlog = 65535" >> /etc/sysctl.conf echo "vm.swappiness = 10" >> /etc/sysctl.conf

🔒【生产级增强】

补充必须同时调整:

fs.file-max = 1000000 net.ipv4.ip_local_port_range = 1024 65535 net.ipv4.tcp_tw_reuse = 1

⚠【风险提示】 如果 file-max 和端口范围不调,大规模连接会直接触发:

  • too many open files
  • cannot assign requested address

2. MySQL 配置优化

# my.cnf关键配置 [mysqld] # InnoDB缓冲池(占物理内存70-80%) innodb_buffer_pool_size = 100G innodb_buffer_pool_instances = 16 # 日志优化 innodb_log_file_size = 4G innodb_log_buffer_size = 256M innodb_flush_log_at_trx_commit = 2 # 根据业务容忍度调整 # 并发配置 max_connections = 5000 thread_cache_size = 100 innodb_thread_concurrency = 0 # 禁用并发控制 # 其他优化 innodb_io_capacity = 20000 # SSD配置 innodb_flush_method = O_DIRECT

🔒【生产级增强说明】

真实生产中,建议加:

skip_name_resolve = 1 performance_schema = ON innodb_print_all_deadlocks = 1

用途:

参数价值
skipnameresolve防止DNS慢解析拖死连接
performance_schema诊断锁、慢SQL
innodbprintall_deadlocks排查死锁

⚠【风险提示】 max_connections = 5000 只是上限,不是目标值。 实际生产推荐:

层级推荐值
应用连接池200~400
MySQL max_connections500~800

连接越多 → 上下文切换越重 → 性能反而下降。


3. 架构与 SQL 优化

-- 1. 索引优化:覆盖索引、联合索引 CREATE INDEX idx_covering ON orders(user_id, status, created_at); -- 2. 查询优化:避免SELECT *,使用分页优化 SELECT id, name FROM users WHERE id > ? LIMIT 1000; -- 3. 分区表(MySQL 8.0+) CREATE TABLE logs ( id BIGINT AUTO_INCREMENT, created_at DATETIME, content TEXT, PRIMARY KEY (id, created_at) ) PARTITION BY RANGE COLUMNS(created_at) ( PARTITION p202401 VALUES LESS THAN ('2024-02-01'), PARTITION p202402 VALUES LESS THAN ('2024-03-01') );

🔒【生产级增强】

分页查询在深分页场景要避免:

-- 错误示例(高 offset 会导致全表扫描) SELECT * FROM users LIMIT 1000000, 20;

推荐写法:

SELECT id, name FROM users WHERE id > last_id ORDER BY id LIMIT 20;

4. 本阶段核心结论

第一阶段不是为了“千万 QPS”, 而是为了让 MySQL 成为一个可靠、稳定、可控的底座系统

它决定了:

  • 后面所有缓存、分库、MQ 是否能跑稳
  • 复制延迟是否可控
  • 故障是否可恢复

第二阶段:读写分离

目标:读性能横向扩展,让 MySQL 从“单点瓶颈”变成“可扩展集群”。

🔒【生产级增强说明】

  • Orchestrator:自动选主
  • 中间件自动切换主从
  • 目标:主库宕机 ≤ 5 秒恢复

一、复制策略选择

-- 1. 半同步复制(数据一致性要求高) INSTALL PLUGIN rpl_semi_sync_master SONAME 'semisync_master.so'; SET GLOBAL rpl_semi_sync_master_enabled = 1; -- 2. 并行复制(MySQL 5.7+) SET GLOBAL slave_parallel_workers = 8; SET GLOBAL slave_parallel_type = 'LOGICAL_CLOCK'; -- 3. 多源复制(汇总多个业务库) CHANGE MASTER TO MASTER_HOST='source1', MASTER_USER='repl', MASTER_PASSWORD='pass' FOR CHANNEL 'source1';

🔒【生产级增强】

建议配套参数:

slave_parallel_workers = 16 slave_parallel_type = LOGICAL_CLOCK slave_preserve_commit_orde
版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/4/1 14:14:41

智能垃圾桶、垃圾分类 App、环卫机器人、政策评估系统 YOLOV8模型如何训练生活垃圾分类检测数据集 建立基于深度学习框架YOLOV8垃圾检测系统

垃圾分类检测数据集 垃圾四类检测数据集 14964张 4类 YOLO格式【垃圾四类检测YOLO数据集】共【14964】张,按照8比2划分为训练集和验证集,其中训练集【11971】张,验证集【2993】张,模型分为【4】类,分类为:【…

作者头像 李华
网站建设 2026/4/3 6:25:46

精选 4 款基于 C# 开源、实用的工具类库,开发效率提升利器!

前言 在我们日常工作开发中工具类库是软件开发中不可或缺的一部分,它们通过提供通用功能、实现代码复用、封装复杂逻辑、提升代码质量与可维护性,帮助开发者更高效、更稳定地构建软件应用程序。 今天大姚给大家分享 4 款基于 C# 开源、免费、实用的工具…

作者头像 李华
网站建设 2026/3/25 11:06:39

英伟达CES 2026深度解读:物理AI革命与全栈技术重构(附演讲ppt)

英伟达创始人兼CEO黄仁勋在CES 2026的演讲,以“计算的炼金术”为核心,勾勒出加速计算与生成式AI双平台变革叠加下的技术蓝图,其内容涵盖物理AI突破、全栈硬件重构、开源生态建设及产业落地实践,深刻重塑了AI从虚拟走向物理世界的技术路径与商业逻辑。 本文主要参考2份文档,…

作者头像 李华
网站建设 2026/4/1 21:11:45

LeetCode100天Day13-移除元素与多数元素

LeetCode100天Day13-移除元素与多数元素:双指针移除与排序计数 摘要:本文详细解析了LeetCode中两道经典数组题目——“移除元素"和"多数元素”。通过双指针实现原地移除元素,以及使用排序和计数查找多数元素,帮助读者掌…

作者头像 李华
网站建设 2026/4/1 17:07:46

智纺云ERP开发实战

基于Spring Boot React的纺织品ERP管理系统全栈开发实战 本文详细介绍了一个企业级纺织品ERP管理系统的完整开发过程,涵盖需求分析、技术选型、架构设计、核心功能实现等方面。该系统采用前后端分离架构,后端使用Spring Boot MyBatis MySQL,前端使用React Tailwind CSS,实现…

作者头像 李华
网站建设 2026/3/28 11:09:07

C/C++访问MySQL数据库

C/C访问MySQL数据库 VS2019配置 第一步:打开mysql的安装目录,默认安装目录如下:C:\Program Files\MySQL\MySQL Server 8.0,确认 lib 目录和include 目录是否存在。 第二步:打开VS2019,新建一个空工程,控制台…

作者头像 李华