RDMA微软华为早用上，很多基模公司加载上T模型还要几分钟

有个做基础设施的朋友最近感慨，很多他觉得早就该普及的技术，到现在还是少数人在用。他举了几个例子，听完确实挺扎心的。 RDMA这种网络加速技术，微软Azure 2016年就在用了，华为2021年的企业存储也上了。但现在很多做大模型的公司，加载个TB级模型还要等好几分钟，就是因为存储还没用上RDMA。技术明明成熟了好几年，就是没普及。 多面体编译优化也是类似的情况。2019年华为昇腾就做了AKG这个自动优化工具，理论上能让算子性能提升不少。结果到现在也没几家算子编译器真正用上多面体优化。取代手写算子的不是数学优化算法，反而是LLM。 更让他困惑的是AI工具的普及率。他做Pine的时候一直想不通，这么好的省钱工具为什么大家不主动去试。后来想明白了，所有早期产品都一样，很多人Codex 20刀的plan都用不完。 技术从被发明到广泛应用，中间隔着的不是技术门槛，而是认知鸿沟。很多工程师觉得这么好的东西肯定很快就会普及，但现实是，跨越鸿沟需要的时间远比想象中长。