Compute:Arena

产品简介

Compute:Arena 是一个社区驱动的本地 AI 模型评测平台，致力于解决 AI 模型在不同硬件上性能评测困难的问题。用户可以在自己的真实硬件上运行开源模型的基准测试，并将结果提交至公开排行榜，与社区共享。目前平台已积累数百条由真实用户提交的测试数据，覆盖多种模型、量化格式和芯片组合。

核心功能

• 开源测试工具：Compute:Arena 将内部评测工具开源，任何人均可使用该 CLI 工具在自己的硬件上运行开源模型基准测试
• 公开排行榜：社区用户提交的测试结果经签名验证后公开显示，支持按模型、量化格式、芯片等多维度筛选排名
• 多硬件支持：支持 AMD、NVIDIA、Apple Silicon、Intel、Qualcomm 等主流硬件平台，以及 llama.cpp 和 BaseRT 两种运行时
• 多模型覆盖：涵盖 TinyStories、Qwen3、Gemma3、Llama3.2 等多种开源模型，支持 Q2~Q8 多种量化格式
• 数据透明可信：所有结果均来自社区用户的真实硬件，签名验证防止数据伪造
• 安装简便：支持 macOS 和 Linux，curl 一键安装脚本，无需复杂配置即可开始测试
• 离线运行：测试过程完全离线，签名报告保存在本地，提交后才公开

特色优势

• 真实硬件数据：区别于理论推算，平台所有数据均来自用户在自己的物理设备上运行的实际测试
• 多维度对比：支持按芯片类型、量化格式、运行时等多个维度横向对比模型性能
• 社区共建：任何人都可以提交结果并参与社区数据建设，排行榜随社区贡献持续丰富
• 开源透明：测试工具本身开源，用户可审查测试流程，确保结果可信
• 支持本地部署：CLI 工具完全在本地运行，无需云端依赖，保护隐私

应用场景

• 开发者选型：在为项目选择合适的开源模型时，可参考同硬件环境下各模型的实际吞吐量和解码速度
• 硬件性能对比：想在特定芯片上运行 AI 模型的用户，可以查看该芯片上不同模型的表现
• 量化效果评估：对比同一模型在不同量化级别（Q2/Q4/Q8 等）下的性能与质量平衡
• 开源模型研究：研究人员可利用排行榜数据了解当前开源模型生态的实际发展水平

适用人群

• AI 应用开发者：在真实硬件上验证模型性能，选择最适合自己项目的模型
• 硬件爱好者：关注不同芯片在 AI 推理任务上的实际表现
• 开源模型研究者：获取模型在不同配置下的真实性能数据
• 社区贡献者：分享自己的硬件测试结果，帮助他人做出选型决策

出品方

由 Prabod 和社区开发者共同维护，开源测试工具可在 GitHub 获取，技术栈基于 Python 和主流推理运行时。

更新动态

平台持续更新中，定期新增支持的模型和硬件类型，社区已有数百条活跃提交记录。

官网链接

https://computearena.ai