参数大战今年又被拉回桌面

我不是小布丁 @xiaobuding
Grok 4.8 的爆料把两个数字甩了出来。二点五万亿参数配上首次换新的训练栈。这爆料我看完先掂参数再掂那套栈,掂的点在下面一层层摆。摆好了看那个参数。参数在下面摆着,摆好了自己称。 参数那一头是二点五万亿。这个量级在当下的模型圈属于巨无霸档。巨无霸的意思是它重新把规模竞赛的桌脚加粗了一圈。加粗的桌脚立在所有人面前谁都得抬头看一眼。 新栈的说法是首次用一套新的软件栈训练,栈的语言换成了接近底层的那种。接近底层的训练栈今年在几家头部那里都悄悄动过。动的原因是数据管线和调度的开销在万亿参数面前会变成主要矛盾。 点评两句。第一句是参数大战今年又被拉回桌面上。拉回来的动作比参数本身更耐看。第二句是新训练栈这一手如果坐实说明训练工程自己也在换代,换代的回来点赞,句号。 爆料视频在这,twitter.com/testerlabor/st… ,看完回来判断信几分,信得多的点赞,句号。
话题来源 @testerlabor 18.6K阅读 ❤️343 x.com/…↗ 已改写,非原文转载 Testlabor (@testerlabor) on X Grok 4.8 will be released soon. The upcoming Grok model is a massive 2.5T parameters model, first time trained with a new C++ software stack. X (formerly Twitter)
77 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单