Rook-Ceph v1.20.7:13.6k Star 的 K8s 存储编排方案,哪些场景真正值得用它
Rook-Ceph 上新 v1.20.7:13.6k Star 的 K8s 存储编排方案,哪些场景真正值得用它
生产级 K8s 存储选型,从来不是一个纯粹的技术问题。
选得太轻,你的数据在 Pod 重建时可能直接蒸发;选得太重,团队要花半年学运维、买硬件,然后发现其实只用了 20% 的功能。
最近注意到一个项目,刚发布了 v1.20.7 稳定版,在 GitHub 上有 13,643 颗 Star、2,859 个 Fork、长期稳居云原生存储方向前列。它叫 Rook,是 CNCF 旗下的毕业项目,专注把 Ceph 分布式存储编排进 Kubernetes——今天来看看它到底解决了什么问题、什么场景真正适合它。
它到底在做什么
Rook 是一个跑在 K8s 里的存储编排 Operator。它的核心逻辑很简单:你用 YAML 描述想要的 Ceph 集群配置,Rook 自动在集群里部署 MON、MGR、OSD、MDS、RGW 这些 Ceph 守护进程,并持续管理它们的状态。
换句话说,Rook 把 Ceph 的运维复杂度封装成了 K8s 原生体验。不用再手动敲 Ceph 命令行,扩容、升级、故障自愈都通过 K8s CRD 来驱动。
目前 Rook 支持三种存储类型:
- 块存储(RBD):适合有状态数据库,ReadWriteOnce 模式
- 文件系统存储(CephFS):适合需要多节点共享读写的场景,ReadWriteMany
- 对象存储(RGW):S3 兼容,适合文件分发、备份等
真实跑分数据:它比 NFS 快多少
光说架构不够看,来点真实数据。
生产场景一:从 NFS 迁移到 Rook CephFS
有团队在 12 节点 K8s 1.34 集群(AWS EKS m6i.2xlarge)上做过详细对比(来源:johal.in,2026年4月):
| 指标 | NFS v4.2(原有) | Rook 1.12 CephFS | 改善幅度 |
|---|---|---|---|
| p99 读延迟(4K) | 187ms | 131ms | ↓30% |
| p99 写延迟(4K) | 214ms | 167ms | ↓22% |
| 4K 随机读吞吐 | 1.2GB/s per node | 1.8GB/s per node | ↑50% |
| 单卷最大 IOPS | 12,000 | 21,000 | ↑75% |
| 存储开销(3副本) | 200% | 100%(纠删码) | ↓50% |
| 单点故障风险 | 有(NFS 头节点) | 无(MON/OSD 仲裁) | ✅ |
| 动态卷扩容 | 不支持 | 支持,零停机 | ✅ |
| AWS 成本/TB/月 | $45 | $37 | ↓18% |
该团队迁移后不仅延迟降低了 30%,每月还节省了 $4,200 的云存储费用。
生产场景二:Rook-Ceph vs Longhorn(学术对比,2026年)
印尼国立大学(UNESA)的学士论文对两种主流方案做了系统性 FIO 压测(5种负载场景):
- Rook-Ceph 在读密集场景大幅领先:Web Server 场景下,Rook 达到 27,254 IOPS(读)vs Longhorn 的 11,959;Data Analytics 吞吐量 582 MB/s vs 258 MB/s
- Longhorn 在写密集场景占优:Database OLTP 混合负载下,Longhorn 读 IOPS 超 Rook 5 倍以上(549 vs 87);纯写延迟 2.62ms vs 13.04ms
- 根本原因:Rook 基于 RADOS 分布式集群架构,读操作有高效缓存机制;Longhorn 单控制面微服务架构在事务性写操作上更敏捷,但高并发并行读容易出现瓶颈
生产场景三:Rook Ceph 18.0 vs 云厂商托管存储
2026年4月的 120 节点 K8s 1.32 压测(跨 AWS/GCP/裸机)显示(来源:johal.in):
- Ceph 18.0 在 10 节点集群上达到 180万 IOPS(4K 随机读),比 AWS EBS 2026 高 22%,比 GCP PD 3.0 高 31%
- 但 p99 写延迟 2.1ms,弱于 AWS EBS 的 0.8ms;云托管存储在小块写操作上仍有优势
- 规模越大 Rook 优势越明显:Ceph 18.0 在 PB 级规模下 p99 写延迟比 AWS EBS 低 42%,但运营成本是 EBS 的 2.8 倍
KubeCon 2026 上的 Rook 议题
2026年3月 KubeCon Europe 2026 设立了 Rook 专题(Artem Torubarov & Deepika Upadhyay,Clyso;Niels de Vos,Red Hat),覆盖从入门到生产部署全流程,重点讨论了 Rook 如何在大规模企业场景下配置 Ceph、提供稳定的块/文件/对象存储。
SAP 的案例
SAP 与 Clyso 联合发布了 PB 级存储白皮书,披露其在 30 个全球区域运营 120PB Rook-Ceph 存储集群的实践,涵盖 2,800 个 OSD 节点、零停机升级(Reef→Squid)、以及 90,000 GET/s 的饱和测试数据。
适合谁,不适合谁
适合用 Rook 的场景
1. 大规模读密集型有状态工作负载
ML 训练数据集访问、内容管理系统、媒体分发、日志分析等读多写少的场景,Rook 的 RADOS 架构配合分层缓存能跑出很漂亮的数据。
2. 需要 ReadWriteMany 文件系统的团队
一个 PVC 多个 Pod 同时读写——这种事 NFS 能做但有单点,HostPath 做不了。Rook CephFS 是 K8s CSI 标准下少数真正生产可用的 RWX 方案。
3. 对数据主权有严格要求的组织
跑在自己的数据中心,不想把数据放云盘,又需要分布式存储的冗余和弹性。Rook + Ceph 是纯开源方案,无供应商锁定。
4. 已经用了大量 K8s 基础设施的团队
如果你的集群已经跑了几十个节点、有专职 SRE、存储需求在 TB 以上级别,Rook 的运维成本相对可消化。
不适合用 Rook 的场景
1. 小规模集群(3节点以下)
Rook 推荐至少 3 个存储节点,且每个 OSD 需要独立磁盘或分区。3 节点集群跑 Rook,无论运维复杂度还是资源消耗都划不来。
2. 以小块随机写为主的场景
Database OLTP 这类写密集负载,Longhorn(单控制面、快照链优化)或直接用云厂商的 RDS/云盘更合适。Rook 的分布式写放大在这种情况下是劣势。
3. 没有 Ceph 运维经验的团队
Rook 降低了 Ceph 的部署门槛,但没有降低理解门槛。OSD 宕盘、MON 脑裂、PG 状态异常——这些 Ceph 概念在 Rook 里依然需要懂。团队里至少要有一个人深度了解 Ceph。
4. 追求极低写延迟的场景
Rook/Ceph 的写路径有复制开销,p99 写延迟很难低于 2ms。对延迟敏感的金融交易、游戏服务器等,考虑裸的本地 NVMe 或云盘。
真实使用门槛
用 Rook 之前,建议先确认以下几点:
硬件:每个存储节点需要至少一块独立 SSD(NVMe 优先,HDD 仅适合超大容量的对象存储场景)。官方建议每节点至少 16GB 内存。
网络:万兆网络是生产级集群的基准;Ceph 的心跳和复制流量对网络抖动非常敏感。
版本兼容性(截至 2026年9月):Rook v1.19+ 要求 K8s ≥ v1.30,建议最高到 v1.35;Ceph 版本需要 ≥ v19.2.0(Squid)。升级前务必查 GitHub Releases 页确认最新补丁版本。
运维工具链:Rook 官方提供内置 Dashboard(暴露 K8s Service),搭配 Prometheus + Grafana 做监控是标准配置。
下一步建议
如果你看完觉得 Rook 值得评估,可以从这几个方向入手:
1. 快速上手(30分钟)
跟随官方 QuickStart 部署一个单节点演示集群,体验 Rook Operator 的安装和 StorageClass 动态供给流程:https://rook.github.io/docs/rook/latest-release/Getting-Started/quickstart
2. 评估现有工作负载
用 Kubestr 或直接用 fio 对当前存储方案做基线压测,重点测 p99 延迟和读/写混合比例,找出现有瓶颈。
3. 选型验证
如果你的场景是读密集 → 优先测 CephFS;如果是块存储为主 → 测 RBD;确认延迟和 IOPS 数据满足 SLA 再决定迁移。
4. 关注 Rook v1.20 后续版本
v1.20 是当前主线路,预计后续会持续引入对 Ceph Squid+ 以及 K8s 新特性的支持。建议不要追 master 分支,始终用官方 Release 版本。
相关链接
- GitHub:https://github.com/rook/rook
- 官方文档:https://rook.github.io/docs/rook/latest-release
- v1.20.7 Release:https://github.com/rook/rook/releases/tag/v1.20.7
- KubeCon 2026 Rook 议题:https://eu1.hubs.ly/H0sbwp60
- Rook vs NFS 压测原文:https://johal.in/we-ditched-nfs-rook-112-cephfs-cut-file-rook
- SAP & Clyso PB 级存储白皮书:https://www.clyso.com/eu/en/news/whitepaper-rook-ceph-petabyte-scale-sap
- UNESA 学术对比论文(2026):https://garuda.kemdiktisaintek.go.id/documents/detail/6564849
评论区
登录后可评论。