Edge AI Benchmarks
中国边缘 AI 硬件性价比实测数据
Edge AI Benchmarks — 中国边缘 AI 硬件性价比实测数据(4票,B线Vibe)
项目简介
Edge AI Benchmarks 是一个专注于中国边缘 AI 硬件场景的实测数据项目,由技术博主 @chorylee 维护,原始数据托管在 GitHub,配套分析发布在 RoboKrunch 站点。项目核心内容是一份持续更新的对比表格,涵盖主流边缘 AI 开发板(如 Orange Pi 5 Max、Jetson Orin Nano、Hailo-8 等)的真实性能测试数据,包括 FPS(每秒帧数)、FPS per Dollar(每美元帧率)等关键指标,以及 Street Price(市场实际成交价)而非官方标价。
项目的核心价值在于揭示"标称性能"与"实际可用性"之间的差距。例如,某款开发板官宣 TOPS 算力极高,但实测 FPS 表现平平;或者某板卡性价比看似优秀,但实际采购价格已大幅上涨。chorylee 的目标是让数据可验证、可复现:每一项数字均可追溯至官方数据手册、厂商表格或实际采购收据。
核心功能
- 跨板卡 FPS 横向对比:以 YOLOv5 为统一基准模型,列出不同开发板在相同输入条件下的实测帧率,消除"不同模型不同测试条件"导致的横向比较困难
- FPS/$ 性价比指数:以板卡市场实际采购价格(而非官方 MSRP)计算每美元帧率,帮助开发者在有限预算内做出最优选择
- BOM 成本拆解分析:对部分代表性板卡进行物料成本(Bill of Materials)分析,揭示供应链成本结构,帮助理解价格背后的硬件构成
- 完整 benchmark 数据集:以 benchmarks.csv 形式提供机器可读的原始数据,开发者可自行导入分析或制作可视化图表
- TOPS 陷阱警示:专门章节解释为何不同厂商的 TOPS 数据不能直接横向比较(稀疏 vs 密集 INT8、NPU 架构差异等),帮助非专业买家避免被规格数字误导
技术实现
测试方法论
FPS 数据来自各厂商官方模型动物园(如 Rockchip 官方 YOLOv5s 数据)或 Hailo 官方数据表,均为板卡出厂默认设置下的表现,未做额外优化。所有数据均标注来源,支持用户自行查证。
TOPS 不可直接比较的原因是:NVIDIA 的 40 TOPS 是稀疏 INT8,Hailo 的 26 TOPS 是密集 INT8,而 Rockchip 的 6 TOPS 则是针对不同架构的算力指标。密集算力 vs 稀疏算力的实际推理性能差异可能达到 2-3 倍,不能简单用 TOPS 数字相除得出结论。
数据结构
Platform, NPU, Model, FPS, Board price, FPS/$, Source
Orange Pi 5 Max (4GB), RK3588 6 INT8 TOPS, YOLOv5s, 66.1, $75, 0.88, Rockchip model zoo
Hailo-8 M.2, Hailo-8 26 dense INT8 TOPS, YOLOv5m, 156, ~$215, 0.73, Hailo official tables
配套分析文章
项目配套的 RoboKrunch 文章(如《The $75 AI Computer vs Jetson》)对特定板卡进行深度拆解,涵盖深圳供应链价格、主板 vs 芯片差价、以及实际采购中的隐藏成本(如散热方案、电源要求等)。
快速上手
- 查阅基础 benchmark 表格:访问 GitHub 仓库主页,直接查看 README 中的 FPS 对比表,快速了解各板卡基准性能
- 下载原始 CSV 数据:在仓库中找到 benchmarks.csv,使用 Python pandas 或 Excel 进行自定义排序和分析
- 理解 TOPS 陷阱:在 README 的 "Read this before you screenshot the table" 章节,了解为什么不能直接用 TOPS 数字比较不同架构的板卡
- 参考采购建议:结合配套 RoboKrunch 文章中的 BOM 拆解和实际采购价格,判断目标板卡的真实性价比
适用人群
- 在预算有限情况下需要选型的边缘 AI 应用开发者
- 对中国产边缘 AI 硬件(香橙派、Rockchip 系等)感兴趣但缺乏采购经验的独立开发者
- 希望获取可验证原始数据而非厂商宣传材料的 AI 硬件评测者
- 关注 Jetson Orin Nano 等主流方案但想了解是否有性价比替代品的工程师
评论与建议
登录 后参与评论或提建议