OpenAI 自研推理芯片 Jalapeño 测试进展:算力与延迟一并改善
OpenAI 公布了自研推理芯片 Jalapeño 的实测进展。这是 OpenAI 第一代定制推理芯片,这次测试除了芯片本身,也覆盖了它周边的整套系统。
原帖给出的具体进展是两条数据:每一瓦特能产出的智能更多、响应更快;在同一个架构里,吞吐往上、延迟往下,而效率没有牺牲。
原帖没有展开技术细节,但"周边系统一起跑通" + "一个架构把吞吐与延迟都往上抬" 这两点,意味着这轮测试验证的不只是芯片,而是芯片+系统的协同方案是否可行。
话题来源 @OpenAI
2.7M阅读 ❤️1.4万 x.com/…↗ 已改写,非原文转载
21 浏览 0 评论
0 反应













