AMD Unsloth开放NPU本地推理 覆盖百款智能体
时间:2026年11月19日,AMD官方新闻稿宣布与AI模型运行平台Unsloth达成合作,Unsloth Desktop首次支持AMD XDNA 2 NPU本地推理。
地点:美国(AMD总部发布)/ 全球(支持AMD Ryzen AI PC平台)
人物:AMD、Unsloth团队
事件详情:AMD与Unsloth合作,通过Unsloth Desktop为AMD锐龙AI平台的XDNA 2 NPU带来本地推理支持。超过100款兼容的智能体AI应用与工作流可接入NPU加速,包括Hermes Agent、OpenClaw、Open WebUI、Cline、LangChain和GitHub Copilot等工具。Unsloth Desktop提供OpenAI兼容的API端点,应用可借此调用运行在NPU上的模型。
背景:此前Unsloth Desktop主要依赖CPU和GPU进行本地推理。AMD XDNA 2 NPU是专为AI推理设计的神经处理单元,能将推理负载从CPU/GPU卸载到NPU,降低功耗并释放其他处理器资源。Lemonade和FastFlowLM负责处理NPU推理请求,将模型计算与系统其他任务解耦。
影响:这是Unsloth Desktop首次支持NPU,也是AMD XDNA 2 NPU首次进入主流AI开发工具链。对用户而言,意味着在支持的AMD Ryzen AI PC上可以更低功耗运行AI智能体;对AMD而言,这是其AI PC生态战略的重要扩展。AMD现场演示了在XDNA 2 NPU上运行Qwen 3.6 35B MoE模型,约需28GB NPU显存。
总结:AMD与Unsloth的合作让XDNA 2 NPU首次获得本地AI推理支持,覆盖百款智能体应用。这一整合降低了端侧AI的功耗门槛,也为开发者在AMD平台上构建AI Agent提供了新的基础设施选择。
参考来源:
AMD官方新闻稿
https://newsroom.amd.com/news/amd-unsloth-bring-npu-support-agentic-ai-applications/
超能网报道
https://www.163.com/dy/article/LC6JEE5B05118EDB.html
IT时代网报道
https://www.itsdw.cn/news/50440.html
Unsloth官方NPU文档
https://unsloth.ai/docs/get-started/install/amd/amd-npu
韩国AI新闻
https://www.aitimes.kr/news/articleView.html?idxno=42819
IT之家报道
https://www.163.com/dy/article/LC6OQOEI0511B8LM.html
DataNet报道
https://www.datanet.co.kr/news/articleView.html?idxno=300366







