ModelApiTester Vibe 项目
Rust+Vue轻量级大模型API测试工具
项目简介
ModelApiTester 是一款专为测试大模型 API 而生的轻量级工具,支持 OpenAI / Anthropic / Google Gemini 三种主流 API 格式自动适配。项目采用 Rust 编写核心业务逻辑与 SQLite 持久化层,上层通过 Axum 提供 HTTP 服务,同时使用 Tauri 打包为原生桌面应用,前端统一基于 Vue 3 构建,实现一套代码三种用法:服务器部署、桌面端运行或本地源码开发。
核心功能
多格式 API 自动适配:同时支持 OpenAI、Anthropic Claude、Google Gemini 三种主流大模型 API 格式,自动识别并适配请求体结构与响应解析格式,切换模型无需修改配置。
流式输出与 Markdown 渲染:完整支持 OpenAI SSE、Anthropic SSE、Google Gemini SSE 三种流式输出协议,逐字实时显示;回复完成后自动执行 Markdown 渲染,支持 LaTeX 数学公式($行内$/$$块级$$)与视频链接自动播放。
完整响应耗时统计:每条回复独立显示 prefill 耗时、decode 耗时、生成 token 数、生成速度(tok/s)、总耗时与模型名称,方便对比不同模型或同一模型不同版本的性能表现。
多模态图片上传:支持 OpenAI Vision 多图选择与预览、Claude document 文件附加,图片双击可放大查看,方便测试模型的视觉理解能力。
内置32条预设测试提示词:覆盖推理、代码、数学、指令遵循、创意写作、多语言、常识、安全八大能力维度,一键填入输入框,无需每次手动构思 prompt。
多会话与配置持久化:聊天记录存入 SQLite,多个模型配置可自由保存与切换,每次发消息自动保存当前工作状态,刷新页面不丢数据。
技术实现
项目架构采用 Rust 作为统一核心层,封装所有业务逻辑(API 调用、响应解析、SQLite 存储)与两个 Adapter 层:基于 Axum 的 HTTP 服务器(提供 RESTful 接口与 WebSocket 支持)和基于 Tauri 的桌面端壳(调用 Rust Core 的同一套 API)。前端为同一套 Vue 3 代码,通过不同的构建目标输出为静态资源(ServeDir 托管)或 Tauri WebView。服务器部署时仅需一条命令启动单二进制加静态文件目录,桌面端用户下载打包文件双击即可运行,数据默认存储在用户本地目录。三种部署方式共享同一 SQLite 数据库,数据互通。
快速上手
第一步:前往 GitHub Releases 页面 https://github.com/yachen4ever/ModelApiTester/releases 下载对应平台版本。
第二步:Linux/macOS/Windows 用户分别下载 mat-server-xxx、mat-frontend-dist.zip,解压到同一目录。
第三步:运行 ./mat-server --static-dir ./static,浏览器访问 http://localhost:52081 即可使用。
第四步:在界面填入 API 地址、API Key,选择模型后即可开始对话测试,预设测试提示词可快速验证模型各项能力。
适用人群
大模型 API 开发者、prompt 工程师、AI 应用研究者、需要对比多个模型表现的产品经理,以及需要管理多个 API Key 并频繁测试模型能力的个人开发者。
评论与建议
登录 后参与评论或提建议