CI 流水线的资源账:内存、CPU 与 IO 到底花在哪

开发 · 3 分钟阅读· 265 次阅读

PR 跑全量、主干只跑增量,是最省机器的一种分工

做容量规划时,看三个数就够了:常驻内存、峰值内存、峰值持续时间。

先说结论

按「峰值 × 1.3」配内存,按「平均 × 2」配 CPU,按「峰值 × 3」留磁盘余量。

  • 先量:常驻、峰值、峰值时长
  • 内存:注意缓存与 RSS 的区别
  • CPU:看是单核瓶颈还是多核瓶颈
  • IO:随机读写最伤机械盘
  • 扩容前先看是不是配置问题

三个必测的数

不测就调参,等于闭眼改代码:

  • 常驻内存(RSS):决定最低配置
  • 峰值内存:决定会不会 OOM
  • 峰值持续时间:决定要不要限流
  • 磁盘日增量:决定备份与轮转策略

内存都去哪了

测试按文件切成 4 片并行,总时长接近原来的三分之一,不是四分之一。

部分 典型占比 能不能省
运行时/解释器 15-25% 换实现,成本高
缓存 20-40% 可以限制上限
连接/会话 10-30% 设上限,及时回收
日志与缓冲 5-15% 轮转 + 异步写

Linux 的 buff/cache 会让人误判内存不足,先看 available 而不是 free。

这个服务的几个资源事实

实测下来,它吃资源的方式比较固定:

  • 依赖缓存命中率从 0 提到 80%,安装阶段通常能省 60-70% 的时间
  • 测试按文件切成 4 片并行,总时长接近原来的三分之一,不是四分之一
  • PR 跑全量、主干只跑增量,是最省机器的一种分工
  • 缓存 key 带上锁文件哈希,锁一改就自动失效,比手动清缓存可靠

CI 流水线的资源账

CPU 峰值怎么处理

PR 跑全量、主干只跑增量,是最省机器的一种分工。

峰值不可怕,可怕的是峰值期间没有排队机制,所有请求一起超时。

扩容还是优化

先做这三件事再谈扩容:限制并发、加缓存、异步化。多数「性能问题」在这三步之后就消失了。

还有几处容易忽略的

都是小地方,但出问题时往往就卡在这里。

  • CI 时间超过 15 分钟后,开发者开始绕过它,直接在本地合并
  • 构建产物不保留,出问题时无法复现当时那一版二进制
  • 所有任务串行跑,一次 CI 40 分钟,最后没人等结果
  • 缓存 key 用固定字符串,依赖升级后还在用旧缓存
  • 失败自动重试三次,把不稳定的测试掩盖成偶发

性能优化的第一步,是知道自己现在有多慢。

评论 (3)

L
lin

最小可用配置这个说法很好,先跑起来再优化。

南
南风

「先看日志再猜」这句话值一篇文。

K
Kevin

版本差异要强调,我照着做结果参数名全变了。

发表评论

验证码

提交后需站长审核,通过后才会显示。