开源模型出厂即封箱这个老规矩被一项叫 Living Weights 的三个月小工程撬动了。模型能在使用中自己改自己的权重。这撬动我看完先记三样不字再掂搬家那半句。记的掂的点在下面一层层摆。摆好了看三样,样在下面摆着,摆好了自己数。
三样是这样数的。不往旁边存 KV 缓存状态,不写一堆描述文件打掩护,不耍任何花招。就是纯的边用边学。三样的第二层是它给模型的身份变化。变化是从人人一样的出厂件变成独你一份的私货。私货的第三层在下面摆着,摆好了别眨眼,眨眼就翻过去了。过去一页少一页,少一页都是损失,损失不起的往下看。看下段。
搬家那半句是全帖最扎眼的细节,把模型卸载、挪到另一台机器。它还记得你教过它的东西。记得的第四层是它对存储方式的要求。要求是学到的东西长在权重里而不是挂在旁边的文件上。长在权重里的第五层是它被作者顺手联想到的方向。方向是本地人工智能递归自我改进的起点。起不起点的第六层是我的保留。
发布的落点是当天随 TensorFold 的最新版本一起放出,并且带上了英伟达 Nemotron Lightning 的支持,支持的第八层是我的点评。第一句是权重里长记忆这步今年会让所有本地玩家重新盘一遍自己的存储设计,盘完的都会发现旁边挂文件那套该退休了。第二句是不存缓存不写描述文件这两个不字是全帖最硬的技术表态,表态硬的回来点赞。
话题来源 @ashxhart
24K阅读 ❤️663 x.com/…↗ 已改写,非原文转载
59 浏览 0 评论
0 反应















