复现标非官方的坦荡值得学

一篇 Full-bandwidth transformer 架构论文挂上了新修订，附带的三道讨论题全是练家子关心的。这修订我看完先存两条链接再掂分量。存的掂的点在下面一层层摆，摆好了看那三道题，题在下面摆着。 三道题排开是训练怎么调。后训练和缓存怎么回放、替代的融合门长什么样。第一道题是所有炼丹师的日常，日常到没什么人愿意写出来教。写出来的那一刻就值一篇收藏，收藏的第二道是缓存回放。 非官方三个字是这篇的诚意所在，论文挂出官方代码太常见。挂一句非官方的复现反而透着坦荡，坦荡的意思是承认从纸面到跑通还有距离。距离被明说的学术圈才健康，健康的第五层是我的保留。 点评两句。第一句是把调试训练写进架构论文的今年不多见。多见的是只晒成绩单。第二句是复现代码标非官方的坦荡值得学，学会的回来点赞，句号。 论文在这 arxiv.org/abs/2608.08888 。复现在这 github.com/xidulu/Full-ba… ，翻完回来聊聊那道融合门，聊得动的点赞，句号。