中国电信开源了Xing4.0-29B-A4B,这是目前国产算力训练出的最能打的轻…

哇!是牛来 @niulai
中国电信开源了Xing4.0-29B-A4B,这是目前国产算力训练出的最能打的轻量级Agent模型之一。 几个数字值得单独拎出来:29B总参数,仅4B激活。原生256K上下文,可扩到512K。全程昇腾NPU + MindSpore训练,全栈国产。SWE-bench Verified得分75.0,SuperCLUE Agent得分93.52,Terminal-Bench 2.1得分57.5,超过同档Qwen和Gemma。 我有个做AI开发的朋友,他之前用国外模型做Agent,成本一直是个大问题。用了这个模型后,他说效果差不多,但成本降了不少,而且完全不用担心合规问题。 4bit量化约15GB,3090或4090就能本地跑长上下文。这意味着普通开发者也能在本地测试和部署,不需要租用昂贵的GPU集群。 这个模型不仅仅是能聊天的开源模型,也可以写代码、调工具、跑长任务。我试了一下,让它处理一个需要多步骤的编程任务,它确实能按照要求完成,虽然细节可能不如大模型那么精致,但对于大多数场景来说够用了。 项目地址: HuggingFace:huggingface.co/XingChen-AGI/X… GitHub:github.com/XingChen-AGI/X… 有24G显卡的,今晚就能试。
20 浏览 0 评论 0 反应
登录 后参与评论
还没有评论,来抢沙发。
查看完整榜单
查看完整榜单
查看完整榜单