8秒视频留500MB:AI推理的存储账别算错

10 月 22 日,MIT Technology Review 的人工智能栏目上线了一篇题为《AI‘s hidden storage bill: What inference leaves behind》的文章,文末标注 Provided by WD,也就是由西部数据提供。它给了一个很小的切口:一段 8 秒、720p、用户最终拿到的成片只有 3.97MB 的视频,在后端留下了 500MB 以上的关联数据,包括日志、缓存上下文、即时渲染、备份和安全记录。按原文口径,这是 130 倍。

下文里凡标注“推算”的,是我用原文数字算出来的,不是原文结论;其余事实都能在文末链接里逐字找到。这篇文章之所以值得现在看,是因为推理正在变成比训练更大的负载:原文引用 McKinsey 的预测,到 2030 年 AI 推理需求年复合增长率(CAGR,可以理解为每年按同一比例滚雪球)为 35%,训练是 22%;按同一份预测,推理到本十年末会占数据中心总需求的四成以上。训练跑完就结项,推理没有结项日。

3.97MB 交到你手上,500MB 留在机房

WD 的这组内部测量,把“AI 成本”从 GPU 机柜拉到硬盘上。五类后端数据里,只有“即时渲染”和用户看到的成片直接相关;日志、缓存上下文、备份、安全记录,是流水线为了保证可追溯、可重放、可审计而留下的副产物——这部分是我从清单本身做的归类,原文没有逐项说明各自的作用,也没给出各类数据的占比。

原文还提到,把这个比例放大到更长、更高分辨率的视频上,单条素材的后端占用会到“数百 GB”级别。按 8 秒对应约 500MB 线性外推(这是我的推算),要落进“数百 GB”需要在小时级的时长或者明显更高的码率上。换句话说,绝大多数企业真正要面对的,不是单条素材的体积,而是素材的条数。

130 倍是怎么来的,以及它为什么不是物理定律

原文同时给了两个数:3.97MB 的成片,500MB 以上的后端,130 倍。把这两个数放在一起会出现一个精度差,值得算一遍。

# 把原文两个数字对齐,看我引用时该取哪个
成片 = 3.97        # MB,原文给的 720p 成片大小
倍数 = 130         # 原文给的整数倍

成片 * 倍数         # = 516.1 MB  → 130 倍对应的是 516MB 左右
500 / 成片          # = 125.9     → 后端刚好 500MB 时,倍数只有约 126

# 再带一个假设看量级(10 万条/天是我为演示设的,原文没有这个数据)
100_000 * 0.516    # = 51,600 GB ≈ 50 TB / 天 的后端增量

第一行说明 130 倍对应的是 516MB 而不是 500MB 整,所以正文里写“500MB 以上”其实比写“130 倍”更保守。第二行是我加的假设:一个每天产出 10 万条 8 秒素材的团队,按这个实测比例,后端每天新增约 50TB。这个数字原文没有,属于推算。

更要紧的是:130 倍是某种工程实现下的观测值,不是 AI 推理的物理常数。五类后端数据里,缓存上下文、多份渲染、备份份数、日志粒度都是产品设计选择。原文没有讨论哪些可以关掉、关掉之后倍数会掉到多少——这正是它作为厂商内容没有回答的问题,也是你在自己环境里最该先量一遍的。

训练能结项,推理不能

原文反复强调的一点是两种负载的成本形态不同,这句话值得展开成一张表:

维度 训练 推理
生命周期 有起点和终点,跑完可以退役 每次请求都在发生,没有退役节点
预算形态 更像项目制,可以按批次审批 更像水电费,随调用量持续累积
数据体量 主要是数据集和检查点 每次请求都在留下日志、缓存、渲染、备份
算力回落 周期性强,随硬件刷新和发布节奏起伏 不随算力回落,留存数据继续堆
成本可见性 单次训练账单显眼,容易立项 分摊在存储和检索里,不容易被单独看到

表里最容易被忽略的是第四行。原文的表述是计算需求会随训练周期、产品发布、硬件刷新上升和下降,但留存数据的体量不会跟着下降。这句话的推论是:算力预算和存储预算不会同步波动,两条曲线的形状不一样。

两条成本曲线,一条会回落

原文引了一位超大规模云服务商高级产品经理的说法,大意是把存储备足本身就是对 GPU 利用率的优化——最大的挑战是别让 GPU 空转等数据,几个小时的 GPU 空闲很快就会变成很贵的账单。这句引述把存储从“归档成本”改写成“算力效率的输入”。

原文还给了一个更直接的时间线:按存储支出每年增长 25%、算力预算按周期性方式增长来算,一个把 AI 预算写成“算力 + 存储算个舍入误差”的团队,可能在 12 到 18 个月后发现这个舍入误差已经占到项目总成本的显著比例。这里要注意 25% 这个数字出自原文的假设句,不是某家公司的实测。

这也是资本支出(CapEx,一次性买设备)和运营支出(OpEx,按月付账单)的区别所在。算力预算通常走预留实例或者大额采购,谈判时看得见;存储成本会散在运营账单里,按容量和请求数慢慢长。原文的建议是把存储分层——热层给频繁访问的数据,温层、冷层、归档层承接大部分体积——并指出 HDD(机械硬盘)在每 TB 成本上有明显优势。

这份账单,是谁在替你算

到这一步该说清楚归属了。这篇原文的署名是 Tim Rausch,文末标注由 WD 提供;文中那份调研是 WD 赞助的 IDC 全球白皮书,样本 763 位 IT 和业务决策者,结论是近 95% 的受访者说过去 12 个月生成式 AI 让数据量上升,约 61% 说增长 25% 以上,96% 预期需要更快的归档检索来支撑推理或 RAG(检索增强生成,先查资料再让模型回答)。这些数字最后落在 HDD 有明显每 TB 成本优势上。

数字 出处 性质
8 秒 720p 成片 3.97MB、后端 500MB 以上、约 130 倍 WD 内部测量,经 MIT Technology Review 刊出 厂商自测,非第三方审计
推理 35% CAGR、训练 22%、本十年末占数据中心需求四成以上 原文引用 McKinsey 第三方预测,非实测
763 人样本、95% 数据量上升、61% 增长 25% 以上、96% 预期需更快归档 WD 赞助的 IDC 白皮书 厂商赞助的问卷调研,自报数据

这不是说数字有问题,而是说框架有方向。一家机械硬盘厂商论证“存储被低估”,结论指向自己的产品,读者需要自己补上另一半:哪些后端数据是可以不产生的。独立分析站 Shattered 在 10 月 21 日的一篇评论里把这一点说得更直白——过去两年 AI 公司花了大量精力把每 token、每帧的算力成本压下来,但很少有团队对一次生成请求在用户拿到文件之后留下什么建立同等的纪律。

同一篇评论还提到另一份关于 2026 年内存芯片短缺的报告,说供应紧张让 PC 价格最高上涨 17%。这一份本次没有取到正文,只能作为 Shattered 的转述引用。它提供的反方视角是:当存储介质本身在涨价时,“每 TB 更便宜”这个前提会松动,分层策略的收益也要重新算。

要估这笔账,先问四个问题

原文给的是厂商视角的答案——分层、HDD、可扩展容量;但放一个具体团队身上,能问的问题比能抄的方案有用。

一,让供应商或平台方给出“输出体积 / 后端体积”的实测比值,而不是一个倍数口号。3.97MB 对 500MB 这种量级的差异,只有在自己负载上量过才知道落在哪。

二,后端那五类数据里,哪几类是可配置的。日志保留期、缓存 TTL、渲染中间件、备份份数、安全记录留存,这五项在不同平台上开关差别很大。

三,留存策略是“默认永久”还是“到期删除”。原文提到越来越多的历史数据会被当作未来推理的输入反复取用,这句话的另一面是:一旦定了长期保留,删除本身也会变成一项工作。

四,检索路径是热取还是冷取。96% 的受访者预期需要更快的归档检索——注意是预期,不是已经上线。这个差值决定了预算该压在性能还是容量上。

最后回到那个 8 秒视频。130 倍这个数字最容易被当成一个惊人的结论转发,但它真正的用处是提醒:AI 的账单不止在 GPU 那一栏,还在用户关掉页面之后继续写入的那一栏。至于这一栏该有多大,取决于你允许多少副产物被写下来。

参考来源

评论区

0 条评论

登录后可评论。

摸鱼小队长 11 阅读