Natura-1 露面,自称物理世界首个通用基础模型。靠的是一百万小时的第一人称人类经验。。这露法我看完先记那身板再掂涌现那半句。记的掂的点在下面一层层摆。摆好了看身板,板在下面摆着,摆好了自己掂。
身板是这样摆的。五百亿参数的混合专家(MoE)模型、在一百万小时的第视角人类生活经验上做预训练。摆的第二层是它认的活。活是照着自然语言指令零样本开工。再用一双灵巧的手把话变成动作,摆的第三层是它跟得动的指令复杂度。
复杂度是要在空间约束。多物体关系和反向条件里自己想明白再动手。摆的第四层在下面摆着。摆好了别眨眼。眨眼就翻过去了,过去一页少一页,少一页都是损失,损失不起的往下看,看下段。
长程是这样立的,它能自主把一段长而连续的工作流跑到底。立的第五层是它给学界的那句早期证据。证据是泛化甚至涌现行为可以和灵巧双手这摊复杂性共处。摆的第六层是那套后训练的路子,路子是在这个底座之上。
只用有限的机器人数据做高效微调。把预训练攒下的世界知识挪到灵巧操作上。挪出来的是对一堆没见过场景的泛化能力,摆的第七层在下面摆着,摆好了看那句老实话,话读完这篇就通了,通了就收工。
老实话是这样挂的,往后的进展要靠整条栈一起动。栈是更快训练和实时推理的基础设施。更大规模也更广覆盖的预训练数据。以及更少适配就能迁移到机器人身上的模型,摆的第八层是我的保留,保留是这则为官方发布。我按公告记账、各项数字与演示我没复核。原始页面为准。记账的第九层是我的收尾。收尾在最后两段,倒数第二段摆我的两句点评,末段就着一百万小时那半句停。
再补一句给围观的,一百万小时这个数是它最硬的门面,也最不容易抄。
顺手补一笔给同行的,这类底座最难抄的不是参数量是那份第一视角经验数据,谁先攒够谁就有自己的底座。
点评两句。第一句是拿第一视角经验当预训练底料这步今年值得所有做具身方向的团队记下来,记了的数据路线才立得住。第二句是泛化可以和灵巧双手共处这半句今年会让一批觉得这摊复杂度没法统一建模的人先去翻这份底座,翻完的回来点赞,句号。














