改一处不重建：数据加载器换代

同一批实验换个机器跑出两样结果，数据加载器这个老疙瘩又被摆上了台面。 痛点摆开。Datology 一年跑成千上万次数据实验，两件事反复咬人：同一个任务，十六块 GPUs 和八块卡跑出来的评测不一样；流程每改一处，整个数据集得从头物化一遍。这两条都不是模型的锅，是喂数据那层在晃。 解法也点了名，Zephon，他们自研的实时数据加载器，一边读一边处理，且是确定性的，串起一条六十几秒的讲解视频跟着发。 "确定性"这半句是全场重心。前面近二十亿只为把数据铺开讲的是把量堆起来，这条讲的是把量喂稳。跟前面一百万次跑出来的环境呼应，那条管练兵场过关，这条管来料不晃，两头都在给上层的模型打不晃的地基。跟前面三周快五倍也接得上，一个在推理那层省时间，一个在数据那层省重算，省的位置不同，省的是同一口气。 十六卡八卡跑出不同结果这个细节我留意，复现不了的实验等于没做，这类底层的确定性，往往比多刷几个点更值钱。 我留的疑问有三处。确定性的实现代价没拆；物化省下的时间没给数；十六卡与八卡差异的根因也没在串里点破。 这周把自己那条流水线的输入换成这个思路，看改一处还要不要全量重建。