LLM大模型

大模型本体、API 平台、推理部署、模型工具链类产品

86. vLLM 0.28.0

vLLM是一款开源的大语言模型高吞吐量推理与服务引擎,专注于在有限硬件资源下实现尽可能高的模型吞吐量和低延迟推理

💬0

93. Kedge

轻量级全球分布式云平台,支持 SSH 部署、全局 SQLite 数据库和共享文件系统,提供按秒计费的免费套餐

💬0

99. Open WebUI

**产品简介** Open WebUI 是一款可自托管的 AI 交互平台,核心理念是「AI 应该被拥有,而不是被租赁」

💬0