电商网站大促前如何进行服务器压力测试?并发模拟与容量评估

大促当天上午十点,活动一开始,下单接口响应时间从 300 毫秒涨到 12 秒,支付回调堆积,数据库连接池打满,最后整站 502。复盘时所有人都在问同一个问题:"我们明明测过,为什么还是崩了?"答案往往是:测的是首页,崩的是下单;用的是 100 并发,实际来了 5000 并发;测的是单机,没测依赖的支付和库存服务;或者最根本的——压测是在生产环境随便跑了一下,数据不真实、场景不完整、也没有逐步加压。压力测试的价值不在于"跑出一个 QPS 数字",而在于找到系统的容量拐点,并提前知道瓶颈在哪一层。本文给出一套完整的大促前压测流程:环境准备、工具选择、场景设计、逐步加压、指标判读、容量推算。

一、压测前置条件:环境与数据

在讨论用哪个工具之前,有两件事必须先确定,它们比工具重要得多。

1.1 必须在独立环境进行

压测必须在预发环境(staging)或独立的压测环境进行,严禁直接在生产环境随意施压。原因有三:压测会产生大量脏数据(订单、日志、用户行为),污染生产统计;压测流量会与真实用户争抢资源,导致真实交易失败;压测可能触发限流、熔断、告警甚至把依赖的第三方服务打挂。

如果必须在生产做(比如预发环境与生产配置差异太大、无法复现),要满足严格条件:选择业务最低峰时段(通常是凌晨 2-5 点)、提前通知所有相关方、使用专门的压测账户与隔离的数据表、配置好限流与熔断兜底、准备好一键停止方案、并且压测流量要打标以便过滤。

预发环境的关键要求是与生产同构:同样的机器规格、同样的实例数量、同样的 Nginx/数据库/缓存参数、同样版本的中间件。如果预发只有 1 台机器而生产有 8 台,测出来的数字几乎不能用。

1.2 数据要真实

用空数据库压测得到的结果是虚假的。数据量会影响索引命中、B+ 树层级、缓存命中率、以及 InnoDB Buffer Pool 的命中率。压测前应该:

  • 从生产脱敏导出一份数据量级相当的数据(订单表至少百万级、商品表与生产一致);
  • 预热缓存,让 Redis 中的热点数据分布接近真实;
  • 预热数据库连接池、线程池、JVM(Java 应用需跑一段时间让 JIT 完成编译)。

二、工具选型:四类工具各自解决什么问题

没有"最好的压测工具",只有"解决当前问题的工具"。常见几款:

工具类型优势局限适用
ab(ApacheBench)HTTP 单接口系统自带,一行命令出结果仅单 URL、无场景编排、高并发下自身是瓶颈快速验证单接口基线
wrk / wrk2HTTP 高性能多线程 + epoll,单机可产生数十万 QPS,支持 Lua 脚本需编译安装,无 GUI,报告简单主力 HTTP 压测工具
siegeHTTP 多 URL支持从文件读取 URL 列表,配置简单性能一般,统计维度少多页面混合场景
JMeter全场景编排图形化、支持参数化、关联、断言、多协议(HTTP/JDBC/MQ)、分布式压测Java 编写资源消耗大,单机并发能力有限复杂业务链路、团队协同
sysbench数据库 / CPU / IO专注 MySQL OLTP 基准测试,也可测 CPU、内存、文件 I/O不测 HTTP数据库与主机性能基线

推荐的组合:用 sysbench 测数据库与主机基线 → 用 wrk 测单接口与静态资源上限 → 用 JMeter 编排完整业务链路(登录-浏览-加购-下单-支付)。

三、压测工具实战:sysbench、wrk、ab 与 siege

3.1 先用 sysbench 测底层基线

在压 HTTP 之前,先确认底层资源没有明显短板。如果数据库本身只能扛 500 QPS,那 HTTP 层测到 5000 QPS 也没意义。

# 1. CPU 性能基线(计算素数到 20000,对比不同机器的耗时)
sysbench cpu --cpu-max-prime=20000 --threads=4 run

# 2. 内存带宽测试
sysbench memory --memory-block-size=1M --memory-total-size=10G --threads=4 run

# 3. 文件 I/O 基线(准备文件后再测随机读写)
sysbench fileio --file-total-size=10G --file-test-mode=rndrw prepare
sysbench fileio --file-total-size=10G --file-test-mode=rndrw --threads=8 --time=60 run
sysbench fileio --file-total-size=10G cleanup

# 4. MySQL OLTP 基准(准备 16 张表各 100 万行)
sysbench oltp_read_write \
  --mysql-host=10.0.0.20 --mysql-port=3306 \
  --mysql-user=bench --mysql-password='' --mysql-db=sbtest \
  --tables=16 --table-size=1000000 --threads=32 --time=120 \
  --report-interval=10 prepare

sysbench oltp_read_write \
  --mysql-host=10.0.0.20 --mysql-port=3306 \
  --mysql-user=bench --mysql-password='' --mysql-db=sbtest \
  --tables=16 --table-size=1000000 --threads=32 --time=120 \
  --report-interval=10 run

# 5. 测完清理
sysbench oltp_read_write --mysql-host=10.0.0.20 --mysql-user=bench \
  --mysql-password='' --mysql-db=sbtest --tables=16 cleanup

sysbench 输出里要重点看两个数字:queries performed 中的 qps(总吞吐)和 95th percentile 延迟。对比不同线程数下的结果:如果线程从 8 增到 32,QPS 只增长了 20%,说明数据库已经接近饱和。

3.2 HTTP 压测工具用法

# wrk:4 线程,200 并发连接,持续 60 秒,输出延迟分布
wrk -t4 -c200 -d60s --latency http://target.example.com/api/product/12345

# wrk:使用 POST 请求(通过 Lua 脚本构造 body 与 header)
wrk -t8 -c500 -d120s --latency -s post.lua http://target.example.com/api/order/create

# ab:100 并发,共 10000 个请求
ab -n 10000 -c 100 http://target.example.com/

# ab:带 Header 与 Cookie 的 POST
ab -n 5000 -c 200 -p post.json -T 'application/json' \
   -H 'Authorization: Bearer ' \
   http://target.example.com/api/order/create

# siege:从文件读取多个 URL 进行混合压测
siege -f urls.txt -c 200 -t 2M -b

# 安装(CentOS / Ubuntu)
# yum install -y httpd-tools sysbench     # ab
# apt-get install -y apache2-utils sysbench
# wrk 需要源码编译:git clone https://github.com/wg/wrk && make

wrk 的 Lua 脚本示例(post.lua):

-- post.lua
wrk.method = "POST"
wrk.headers["Content-Type"] = "application/json"
wrk.headers["Authorization"] = "Bearer "

local counter = 1
request = function()
    local uid = 100000 + (counter % 50000)
    counter = counter + 1
    local body = string.format('{"skuId":%d,"quantity":1,"userId":%d}',
                               20001 + (counter % 500), uid)
    return wrk.format("POST", "/api/order/create", nil, body)
end

参数化非常重要:不要用同一个商品 ID 和用户 ID 压测。真实场景是几十万用户访问几十万个商品,如果压测只打一个 ID,会命中缓存、命中单行热点数据,得到完全失真的乐观结果(这个问题在电商压测中极为常见)。

四、逐步加压:找到拐点而不是测出崩溃

压测最大的误区是"直接上目标并发"。正确做法是阶梯式加压:从低并发开始,每档持续 2-5 分钟,记录 QPS、响应时间、错误率、资源水位,直到出现性能拐点。

  1. 基准档:预估峰值的 10%,确认系统正常,记录基线。
  2. 日常档:日常峰值的 1 倍,确认指标稳定。
  3. 目标档:大促预估峰值的 1 倍,这是必须达标的一档。
  4. 余量档:预估峰值的 1.5 倍,验证是否有安全余量。
  5. 极限档:继续加压直到 QPS 不再增长或错误率超过阈值,记录这个点就是容量上限。
#!/bin/bash
# step_test.sh —— 阶梯加压脚本示例
URL="http://target.example.com/api/order/create"
SCRIPT="./post.lua"
RESULT="./result.txt"

for c in 50 100 200 400 800 1200 2000; do
  echo "===== concurrency=$c =====" | tee -a $RESULT
  wrk -t8 -c${c} -d120s --latency -s $SCRIPT $URL | tee -a $RESULT
  echo "--- server resource ---" | tee -a $RESULT
  ssh root@10.0.0.11 "uptime; free -m | head -2; ss -s | head -3" | tee -a $RESULT
  echo "sleeping 30s to let system settle..."
  sleep 30
done

每一档之间要留出 30 秒到 1 分钟的静置时间,让连接回收、GC 完成、缓存稳定,避免上一档的状态影响下一档的结果。

五、指标判读:如何判断"够不够"

压测报告里最关键的四个指标及其判断标准:

指标含义健康标准危险信号
QPS / TPS每秒处理的请求数 / 事务数随并发线性增长并发翻倍而 QPS 不涨,说明已饱和
响应时间 P99(TP99)99% 请求的完成时间上限核心接口 < 500ms,详情页 < 800msP99 是 P50 的 10 倍以上,说明抖动严重
错误率非 2xx 响应占比< 0.1%超过 1% 即视为不可接受,超过 5% 说明已崩溃
资源水位CPU、内存、磁盘 I/O、连接数CPU < 70%,load < 核数×1.5CPU 接近 100% 且 si/so > 0(发生 swap)

几个必须理解的判读方法:

6.1 看 QPS 与并发的关系曲线

把压测结果画成"并发数 - QPS"曲线,正常情况下它是一条先上升后持平的曲线。上升段说明还有余量,持平段说明到了容量上限。如果曲线在达到平台后开始下降,说明系统已经过载——请求排队、连接超时、GC 频繁,此时再增加并发只会降低实际吞吐。这个下降的起点就是系统的真实容量,目标峰值应该留在这个点以下。

6.2 看 P99 而不是平均值

平均响应时间会掩盖长尾。一个接口平均 200ms 看起来很好,但如果 P99 是 5 秒,意味着每 100 个用户就有 1 个要等 5 秒——在电商场景里,这些人就是流失的订单。大促场景应以 P99 为主要考核指标,并额外关注 P999 和最大值。

判断标准的具体化:加并发时,如果 P99 的增长速度远快于 QPS 的增长速度(比如并发翻倍,QPS 涨 30%,P99 涨 200%),说明系统已进入排队区。

6.3 把吞吐与资源水位对照

单独看 QPS 没有意义,必须同时看资源水位。同样的 5000 QPS,一台机器 CPU 50% 是健康的,另一台 CPU 95% 就是危险的。压测时应在被压机器上同步采集:

# 压测期间在被压服务器上每秒采样
vmstat 1 120 > /tmp/vmstat.log &
iostat -x 1 120 > /tmp/iostat.log &
pidstat -u -p $(cat /var/run/nginx.pid) 1 120 > /tmp/nginx_cpu.log &

# 同时采集连接状态与数据库状态
for i in $(seq 1 120); do
  echo "$(date +%H:%M:%S) $(ss -s | head -1)" >> /tmp/conn.log
  mysql -uroot -p'' -e "SHOW STATUS WHERE Variable_name IN
    ('Threads_running','Threads_connected','Queries','Slow_queries')" >> /tmp/db.log
  sleep 1
done

# 结果判读要点:
#   vmstat 的 r 列(运行队列)持续大于 CPU 核数 → CPU 饱和
#   vmstat 的 si/so 列持续大于 0 → 发生 swap,内存不足
#   iostat 的 %util 接近 100% 且 await 明显升高 → 磁盘 I/O 瓶颈
#   Threads_running 持续大于核数×2 → 数据库排队

六、容量评估与压测之外必须做的事

6.1 从压测数字推算需要多少台机器

压测的最终目的是回答"大促需要多少台机器"。推算过程如下:

【第一步】确定业务目标峰值
  预估大促峰值订单量:每秒 800 笔
  每个订单平均产生 12 次 HTTP 请求(浏览、加购、库存查询、下单、
  支付回调等,含重试与页面资源)
  目标 QPS = 800 × 12 = 9600

【第二步】确定单机容量(来自压测,以拐点前的值为准)
  压测结果:单台 8C16G 应用在 200 并发时达到 1200 QPS,
  P99 = 380ms,CPU 72%,错误率 0.02%
  并发加到 400 时 QPS 仅 1350,P99 涨到 1.5s —— 拐点已过
  取单机安全容量 = 1200 QPS

【第三步】计算机器数量
  理论台数 = 9600 / 1200 = 8 台
  考虑冗余与单台故障:按 N+1 冗余,取 9 台
  考虑峰值波动与预估误差(通常预留 30% 余量):
  9600 × 1.3 / 1200 = 10.4 → 取 11 台

【第四步】校验下游容量
  数据库连接池:11 台 × 8 = 88,加上后台与定时任务共约 110
  MySQL max_connections 需 ≥ 110 × 1.5 ≈ 165,设置 256
  数据库承载能力:压测得单库 8000 QPS 时 CPU 80%
  9600 QPS 中约 40% 落到数据库 = 3840 QPS,单库可承受,
  但需确认主从延迟在正常范围

【第五步】校验网络与带宽
  平均响应大小 80KB(含图片走 CDN 后约 30KB)
  9600 × 30KB ≈ 288 MB/s ≈ 2.3 Gbps
  需确认机房带宽与负载均衡的带宽/CPS 配额是否足够

这个推算必须写成文档,并在大促前与业务、运维、DBA 三方确认。任何一环没校验,就可能在当天暴露问题。

6.2 配套预案清单

压测只是验证,大促前的准备还包括:

  1. 降级预案:明确哪些功能可以关闭(评论、推荐、排行榜、非核心报表),并准备好一键开关。
  2. 限流配置:按压测得出的容量上限的 80% 设置限流阈值,宁可拒绝部分请求也不让系统崩溃。
  3. 扩容演练:实际演练一次"增加两台机器并挂入负载均衡"的完整流程,确认耗时。
  4. 回滚预案:压测中如果发现某版本性能退化,要有明确的回滚决策点与执行步骤。
  5. 监控与告警:确认 QPS、P99、错误率、CPU、连接数、慢查询的告警阈值已设置,值班人员能在手机上收到。
  6. 缓存预热:大促开始前把活动商品、库存、价格等热点数据预热到 Redis,避免冷启动穿透。
  7. 压测后清理:清理压测产生的脏数据、临时账号、日志,恢复预发环境到干净状态。

一个实用的并发估算公式,用于校验压测目标是否合理:

并发用户数 ≈ QPS × 平均响应时间

示例:
  目标 QPS = 9600,平均响应时间 = 0.3s
  所需并发 = 9600 × 0.3 = 2880

这意味着压测时至少要模拟 2880 个并发连接才能产生 9600 QPS。
如果压测工具只开了 200 并发却宣称达到了 9600 QPS,
说明平均响应时间只有 20ms,与真实场景不符,结果不可信。

这个公式能立刻识别"压测数据造假"或"场景失真":并发数、QPS、响应时间三者必须自洽。

小结

电商大促前的压力测试,目标是回答三个问题:系统能扛多少(容量上限)、瓶颈在哪一层(CPU / 数据库 / 下游服务)、需要多少台机器(容量推算)。方法上要做到四点:在同构的预发环境测、用真实量级的脱敏数据、覆盖完整业务链路而不只是首页、采用阶梯加压找到拐点而不是一步打到崩溃。

避坑清单:

  • 在生产环境随意压测。会产生脏数据、影响真实用户、可能打挂第三方依赖。必须在预发环境,生产压测需要严格审批与低峰时段。
  • 预发与生产不同构。1 台机器测出的数字无法推算到 10 台,因为连接池、锁竞争、缓存分布都不同。
  • 用空数据库压测。索引与 Buffer Pool 表现完全不同,结果虚高。
  • 只压首页。崩的永远是下单、支付、库存扣减这些写接口,首页反而最不可能出问题。
  • 不参数化。用同一个商品 ID 压测会命中缓存和单行热点,得到失真的乐观结果。
  • 只看平均响应时间。必须用 P99 判断,长尾请求就是流失的订单。
  • 并发数、QPS、响应时间不自洽。用 并发 ≈ QPS × 响应时间 校验,三者对不上说明测量有误。
  • 压测完不清理。脏订单、脏日志、被撑爆的磁盘会留到正式活动。
  • 测完不推算容量。压测报告里必须给出"多少台机器能扛多少 QPS"这个明确结论,否则等于白测。
  • 忽略下游配额。带宽、PPS、CPS、数据库连接数、Redis 连接数都有自己的上限,压测时要一并监控。

本文命令基于 sysbench 1.0.x、wrk 4.x、JMeter 5.x、siege 4.x。JMeter 单机并发能力有限(通常数千),需要更大量级时使用分布式压测或改用 wrk/Gatling 等工具。所有压测操作请务必在授权环境中进行。