PhoneLLM:专为语音Agent设计的开源模型,GPT 5.6 Terra级…

封面由站内生成
PhoneLLM:专为语音Agent设计的开源模型,GPT 5.6 Terra级性能,延迟仅1/3,成本仅1/18! 语音Agent需要模型既超低延迟,又擅长工具调用和指令遵循。但通常我们只能在延迟或能力之间妥协。PhoneLLM解决了这个问题。 技术亮点: ✅ 基于NVIDIA Nemotron Nano 30B全权重微调 ✅ 在真实电话和客服场景上训练 ✅ 关闭thinking模式下保持精准工具调用和简洁回复 ✅ 单张B200可运行80+并发Agent ✅ P95端到端TTFAT huggingface.co/pipecat-ai/pho…
话题来源 @kwindla 317K阅读 ❤️2504 x.com/…↗ 已改写,非原文转载
这条帖答的是
  • PhoneLLM语音Agent开源模型延迟和成本比GPT 5.6低多少 #Agent
  • PhoneLLM单张B200能跑多少并发语音Agent #Agent
31 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单