Grok 4.8 的爆料把两个数字甩了出来。二点五万亿参数配上首次换新的训练栈。这爆料我看完先掂参数再掂那套栈,掂的点在下面一层层摆。摆好了看那个参数。参数在下面摆着,摆好了自己称。
参数那一头是二点五万亿。这个量级在当下的模型圈属于巨无霸档。巨无霸的意思是它重新把规模竞赛的桌脚加粗了一圈。加粗的桌脚立在所有人面前谁都得抬头看一眼。
新栈的说法是首次用一套新的软件栈训练,栈的语言换成了接近底层的那种。接近底层的训练栈今年在几家头部那里都悄悄动过。动的原因是数据管线和调度的开销在万亿参数面前会变成主要矛盾。
点评两句。第一句是参数大战今年又被拉回桌面上。拉回来的动作比参数本身更耐看。第二句是新训练栈这一手如果坐实说明训练工程自己也在换代,换代的回来点赞,句号。
爆料视频在这,twitter.com/testerlabor/st… ,看完回来判断信几分,信得多的点赞,句号。
话题来源 @testerlabor
18.6K阅读 ❤️343 x.com/…↗ 已改写,非原文转载
78 浏览 0 评论
0 反应














