AI智能体自研加速器 openTPU跑通Kintex-7

时间：北京时间 2026 年 10 月 7 日凌晨（HackerNews 首发于美东时间 10 月 6 日下午） 地点：美国旧金山湾区 / 开源社区 GitHub / Facebook Hacker News 首页 人物：FeSens 团队（GitHub 用户名），项目承接 FeSens 此前发布的 auto-arch-tournament 框架；硬件验证平台采用 Inspur YPCB-00338 PCIe 加速卡（搭载 Xilinx Kintex-7 xc7k480t FPGA + 双通道 DDR3），主机为 Intel Core i7-4790 工作站 事件详情：2026 年 10 月 6 日，GitHub 用户 FeSens 在 Hacker News 首页发布开源项目 openTPU——一套完整由 AI 智能体设计的 AI 推理加速器栈，涵盖 SystemVerilog RTL、指令集 ISA、位精确（bit-exact）Python 模拟器、内核语言及其编译器、主机端驱动与 otpu-chat / otpu-smi / otpu-lens 工具链，单 bitstream 在 133.33 MHz 下即可支持所有目标模型。项目运行在 Xilinx Kintex-7 FPGA 上，对 10 个真实模型完成端到端验证：LFM2.5-230M（int8 59.0 tok/s、4-bit 85.8 tok/s）、Qwen3-0.6B（int8 21.6 tok/s、4-bit 31.3 tok/s）、Qwen3.5-0.8B/2B/4B、SmolLM3-3B（int8 5.00 tok/s、4-bit 8.74 tok/s）、Phi-4-mini 3.8B（int8 3.99 tok/s）、Gemma 4 E2B/E4B 等，每档配置与 bit-exact 模拟器输出 token 逐位匹配；DRAM 带宽利用 82–94% DDR3 峰值（17.1 GB/s）。架构刻意保持简单——每周期发出一条指令（8 个 32-bit 字）交给 DMA、四列脉动矩阵单元（int8 权值流）、fp32 向量单元与 quantizer，无缓存、无隐藏调度；LiteDRAM 控制器由核内小 CPU 在 12 秒内完成 DDR3 通道校准，无需主机介入。4-bit 量化采用 FP4 + 两级块缩放 + int8 head，权值 4.25 bit/参数，字节数减少约 1/3、Qwen/LFM2 模型解码吞吐提升 40–45%，并按模型记录了可量化的 perplexity 代价。对于超过 4 GiB 板载显存的 MoE 模型（LFM2.5-8B-A1B 8.5B 参数 / 1.7B 激活、Qwen3.5-35B-A3B 34.7B 参数 / 3B 激活），项目采用主机端流式专家方案——卡内按层槽位缓存专家，主机按 PCIe 链路速率把缺失专家从 pool file 拷入槽位，实测 LFM2.5-8B-A1B 解码 10.6 tok/s（98.5% 槽命中），Qwen3.5-35B-A3B 解码 3.95 tok/s（62% 槽命中、每 token 串流 153 MB），均与模拟器逐 token 等价 背景：openTPU 是 FeSens 团队 auto-arch-tournament 项目的延伸，提出两个核心问题——AI 智能体在硬件设计上能走多远、AI 能否造出跑自己推理的芯片。项目把单一 monorepo 设计成可读教学资源：读者可从 Python 矩阵乘法一路看到 PCIe 卡上的丝印。性能与兼容性数据来自项目自身的测量（2026-09-29 至 2026-10-01 之间多轮迭代），项目尚未公开 AI 智能体与开发者的具体分工细节。HackerNews 10 月 6 日下午的帖子进入首页后，deniz.in、ClawdBytes、news.lavx.hu、worldprogramming.org、Linxi News、gokawiil.com 等技术媒体在 10 月 6 日至 7 日陆续跟进报道 影响：openTPU 把"AI 智能体设计 AI 硬件"从概念拉到可复现的实验层：(1) 验证门槛低——单张 Kintex-7 FPGA + 消费级主机即可端到端复现 10 个现代模型的推理，与 bit-exact 模拟器等价；(2) 教学可读性高——SystemVerilog + ISA + 编译器 + 主机软件集中在单一仓库，对希望理解"kernel 到 RTL"全栈的高校与个人开发者是少见的开源样本；(3) 自指式开发循环雏形——AI 智能体设计的硬件直接跑 AI 模型，呼应 auto-arch-tournament 下一阶段设想；(4) 性能上限仍属"概念验证"——LFM2.5-230M 4-bit 85.8 tok/s、Phi-4-mini 3.99 tok/s、Qwen3.5-35B-A3B 3.95 tok/s，距离商业 GPU/NPU 量产卡还有功耗、性能、软件生态的多重跨越，短期内不会冲击主流 AI 加速器格局 总结：openTPU 不是商业芯片，但它首次以"公开仓库 + 真实上板 + 完整 token-level 等价"的形式，把"AI 智能体端到端设计并验证 AI 推理硬件"推到社区面前。对 AI 行业而言，自指式加速循环（self-referential acceleration loop）有了第一个低门槛、可复现的实验载体；对硬件社区而言，它是一份把 AI 加速器栈打通的开源教科书；对产业而言，AI 智能体自行设计 ASIC 的路径仍长，但与 auto-arch-tournament 等系列工作的累积，意味着 AI 对硬件设计流程的渗透已迈过"辅助布线"阶段 参考来源： - https://github.com/FeSens/openTPU - https://news.ycombinator.com/item?id=49980715 - https://deniz.in/opentpu-ai-agents-design-an-open-source-accelerator-that-runs-real-language-mode - https://news.lavx.hu/article/an-ai-accelerator-built-by-ai-now-runs-llama-and-qwen-models-on-a-pcie-card - https://www.worldprogramming.org/posts/ai-is-now-capable-of-developing-its-own-inference-hardware-gj2apn - https://clawdbytes.com/article/2026-10-06-ai-is-now-capable-of-developing-its-own-inference-hardware.html - http://news.linxi.com.au/news/opentpu-brings-ai-inference-to-a-kintex-7-fpga - https://gokawiil.com/article/352108 - https://github.com/FeSens/auto-arch-tournament - https://github.com/FeSens/openTPU/blob/main/docs/board.md