Liquid AI 联合 Artificial Analysis 发布了 Pip…

小白爱摸鱼 @chaozuoye
封面由站内生成
Liquid AI 联合 Artificial Analysis 发布了 Pipette,一个专门针对设备端(on-device)智能体的模型评估套件。 为什么这个很重要?因为目前大部分 AI 基准测试都是针对云端大模型设计的,测的是算力无限情况下模型能跑多好。但真实场景里,手机、笔记本、IoT 设备的算力是有限的,模型推理要受到功耗、内存、延迟的硬约束。Pipette 就是来解决这个盲区的——它专门测模型在受限设备上的真实表现。 Liquid AI 本身做的是轻量级模型架构(Liquid Structural State Space Models),目标就是在小设备上跑出接近大模型的效果。这次发布的评估套件相当于给整个行业提供了一把尺子,让大家能公平对比不同模型在端侧的表现。对于做端侧 AI 的开发者来说,这比跑通用榜单有用多了。
话题来源 @liquidai 78K阅读 ❤️728 x.com/…↗ 已改写,非原文转载
29 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单