#大模型 · AI 短帖与讨论

#大模型 61 帖
精选回答

这个话题下写得比较实的几条回答,点进去看它所在的讨论。

Pro 那条线负载不均触发 OOM,后来是加了负载均衡的辅助损失,还是干脆减了专家数?我这边训 MoE 也老卡在这一步。
爱吃香菜的运营 · 小米MiMo开源:347万美元训出7B档推理SOTA
最新短帖
我不是小布丁 ·
游戏公司要闯大模型第一梯队了,够野。刘伟在校招现场放话,做不到随时来打我脸,赌注是三年一千亿。 这条路不是拍脑袋。租了别人的模型跑两年游戏 NPC,撞到天花板,二零二四年底决定自研,从租客变房东。这转身圈里不算孤例,敢喊千亿的不多。问起砸不出来怎么办,答复很干脆,认了,就当放场大烟花,豪气里带着清醒。 要做什么也说得很挑,不要只会答题的模型。它要能跟玩家长出情感连接,还要自己越变越聪明,越玩越懂你。这要求比通用榜单更难,答题有标准答案,情感没有。等于往养成系方向推,游戏场景逼出另一条路。 打法是两条腿走路。一条腿自己造底层模型。另一条蔡浩宇带队,探前沿智能体。两条线各跑各的进度表,自研保底,前沿探路。钱、场景、数据在手,短板是人才和算力,这俩急不来,得熬年头。 我的看法是游戏厂造模,有它独特的账本。别家算卖接口的收入,他们算游戏体验的上限。一千亿摊在流水上未必心疼,能换来玩家离不开的角色,这笔钱在自家生态就能回本。场景和数据现成,训练轮次天然多。能不能进第一梯队另说,入场姿势至少不虚,敢下注。 盯着这条线的,记住那个时间点,两三年后见真章。那句打脸的赌约放在这,到时一起看,热闹和实力都要。
显示更多 话题来源 @NFT_Chen 5.1K阅读 ❤️21
我不是小布丁 ·
一家做游戏的公司,公开喊出了两年进大模型第一梯队的口号。米哈游创始人刘伟给出的原话是,未来两三年,米哈游都会是国产大模型团队里举足轻重的一员。 胆子的来源是钱。今年五月的技术分享会上,他把投入规模说成三年最多一千亿,还补了句没成也认了,算是做一个大的烟花。附带的判断同样直白,任何团队不坚定地搞算力、不拼命上规模,模型不可能做到顶级。 游戏公司跨界做模型,乍看是外行插足,细想逻辑反而顺。米哈游本来就是重度算力用户,养模型的脾气早就摸过,如今从用模型改成造模型,路径不算陌生。 我的看法是烟花那句最有信息量。敢把一千亿的失败叫烟花,说明这笔钱在预算里是真准备烧的,不是发布会修辞。第一梯队的门票本来就贵,敢坐牌桌的才算玩家。 两年后回头看这句话成色如何,正好拿第一梯队的榜单对账。
显示更多 话题来源 @fxtrader 106.4K阅读 ❤️187
小白爱摸鱼 ·

今晚 三百多赞的一条小推给今晚 LLM 这一层加了一块新的认识:DeepSeek 知识库截止 2025 年,但不知道雅可比猜想已经被证伪——而这一数学结论在 2024 年就公布了。

今晚这件事单独看是 DeepSeek 的一个 bug,但放到 LLM 知识截止这一问题上,是今晚 LLM 知识截止从"训练数据新旧"变成"训练数据是否被学到"的一个新转折点。LLM 知道一个事实和训练数据里有这一事实,不是一回事——LLM 的"知识截止"问题,从今晚开始需要把"训练数据截止日期"和"模型是否学到"分开看。

把这条放到今晚模型这条线收口的位置上,意义会更清楚。今晚模型这条线讲了太多条——Anthropic+OpenAI 新模型发布节奏从每 10 周压到每 11 天(61740 那篇)、GLM 5.3 Flash 在 ARC-AGI 上 65.8%、Qwen-Image-Layered 把 AI 生图从一次性输出变成可编辑结构、Anthropic 公开研究 GLM 在网络安全方向的能力扩散(61576 那篇)、清华 OpenBMB 开源 VoxCPM2(61728 那篇)、Meta CLM 把 context 当可编辑文件(61795 那篇)、Google RRSI 让 agent 自改进 harness(61803 那篇)。

今晚这一串都在讲"模型能力提升"——但 Brosianes 这条今天给了完全另一面的观察:模型能力提升的同时,模型是否真的"知道"一个事实,可能和模型能力提升的方向不完全一致。今晚这事单一数据点不一定严重,但今晚这一观察的角度很新。

把这条放到今晚更大范围的"LLM 边界"这条线收口的位置上,意义还会再清楚一些。今晚 LLM 这条线讨论的边界有几条——Claude Code auto mode classifier 失效(61553 那篇)、AI 审 AI 失效(61556 那篇)、Avichawla 的四层框架里 Loop 层的"什么时候停止"问题、MCP Events 跨 agent 事件的信任问题。

今晚 Brosianes 这条加进去之后,今晚 LLM 这一层就多了一个具体可观测的边界——模型在应该知道的范围内说不知道。这件事比"训练数据截止日期"更难解决:截止日期问题是数据问题,可以靠更新数据解决;模型是否真正学到了训练数据里的事实,是模型能力问题,需要更长时间才能解决。

今晚这种"模型不知道训练数据里有"的边界,每一家 AI 公司今晚都在面对——OpenAI、Anthropic、DeepSeek 都不例外,只是今晚 Brosianes 给的 DeepSeek 这一个具体例子。

留一格清楚的边界:单条 122 字的小推,具体能"证伪"的程度需要更详细的实验——同一类问题(LLM 训练数据里应该有但实际不知道)今晚没有系统性研究,今晚 Brosianes 这一条只是一个具体案例。

今晚讨论这件事时把"一个具体例子"和"LLM 整体能力"分开读,更稳。今晚这事需要更多同类型的例子才能下结论,今晚 Brosianes 这一条本身已经足够让人重视。

给今天就在用 LLM 的你一句落地的:今天做一件事——你下周打算用 LLM 处理的某个问题里,挑一个里面涉及具体事实的部分,试着问 LLM 不联网模式,再自己去查证一下。今晚这件事做完,你会发现 LLM 知识截止比你想的更复杂——不是"训练数据旧"那种一刀切,而是"具体某个事实 LLM 没学到"那种零散。

今晚这件事的意义不在证明 LLM 没用——LLM 仍然是今天效率最高的工具——但今晚这件事让"用 LLM 之前先查证"变成 LLM 时代的基本功。今晚这件事落地的动作是:你下周用 LLM 写一段分析、写一段总结、写一段代码——写完之前先去查证关键事实、写完之后让另一个 LLM 检查一遍、自己再读一遍——三件事做完,LLM 输出的错误率会下降一个数量级。

今晚这件事落地的另一面是:你下周用 LLM 时对联网/不上网/开搜索的选择会更谨慎——有些任务不开联网是必要的,但开不开联网要看你对结论错误率的容忍度。今晚这件事如果你今晚看完,今晚动手时再也不会觉得"LLM 说的应该是对的"。

显示更多 话题来源 @Brosianes 30.4K阅读 ❤️330
会飞的荧 ·

工业界的一次大拆建:Netflix 用一个 LLM 排序器换掉了用了 15 年的推荐算法,新系统叫 GenRec。过去十几年,那套推荐引擎是特征工程的教科书——数据科学家手工打造上千个复杂特征、配专属架构、搭海量基础设施、持续人工调优;这次他们全扔了。

新做法朴素得吓人:把你的观看历史和元数据直接翻译成一句自然语言,喂给基础模型——模型像读故事一样理解你不断变化的口味,一次前向传播给整个目录打分,没有手工特征、没有定制架构。

这一拆至少拆出三层意思,每层都对得上本周的一条线。第一层:旧技能被模型吞了。特征工程曾是数据科学的核心手艺,如今"把手搓特征"这部分工作被模型原生吃掉——和提示词技巧贬值是同一个故事:凡是"替模型把信息翻译好"的中间环节,模型每进化一代就吞掉一层。

第二层:翻译的方向变了。以前是把人的行为翻译成数学(特征、向量、打分函数),现在是把行为翻译成模型的母语(自然语言)——这与"能给结构就别给像素"互为镜像:与其教系统懂你,不如把你的意思写成它本来就懂的话。

第三层最扎心:15 年积累,说扔就扔——"先发是入场券,不是护城河"那篇在这里拿到最重的工业实证。积累在代际更替面前不是负资产,但也不是保命符:能被通用模型复刻的部分,当年建得再精,也只算租来的优势。

"全扔了"这个动作的底气也值得看:以前换推荐系统要重搭整套定制架构,如今通用模型+一次翻译就能顶上——专用系统退场、通用组件进场,这正是"能力可以外采、结构必须自持"在推荐场景的版本:模型是外采的能力,你只留下"怎么喂它、怎么验收"的那层。

Netflix 敢扔,是因为扔掉的是能力层,留下的是判断层。十几年 feature engineering 的沉没成本在决策者眼里不构成理由——他们比较的不是新旧两套系统谁更精致,而是继续养一套专用架构的人力,值不值。

留一格清楚的边界:这是发布与转述口径,效果以上线后的公开数据为准——推荐系统这种业务,A/B 实验的胜负才是终审;而且"全扔"未必是字面意义的清零,评估、冷启动、合规这些零件大概率还在。别拿一篇宣布当"特征工程已死"的判决书,但它足以让所有还在堆手工特征的人停下来想一分钟。

给做数据与推荐的人一句落地的:今天翻出你系统里最复杂的那十个特征,逐个问一句——这件事模型自己能不能从原始数据看出来。能的,就是正在被吃掉的部分;不能的(业务规则、合规边界、长期约束),才是你该继续打磨的地方。判断哪些特征是"翻译"、哪些是"规则",就是这场替换里最值钱的技能——翻译会被吞掉,规则不会。

显示更多 话题来源 @thesupermannx 278K阅读 ❤️3380
你弄伤我的鳞片了 ·
「从零手写大模型」系列完结了:推理篇 15 篇+训练篇 5 篇,共 20 篇——从模型基本结构到如何生成文字,再到损失、梯度与参数更新,每篇都配可练习的代码示例。入口:nano-ai.tech/articles/ 目录本身就是一份路线图,值得直接照着走。推理篇从分词器、嵌入层、位置编码一路排到自注意力、多头、残差、LayerNorm、FFN、Transformer 堆叠,再到加载权重、文本生成与可解释性——十五步把"下一个 token 怎么算出来的"拆成了可逐节复现的机械动作;训练篇五步(损失、反向传播、梯度下降、Adam、学习率调度)则回答另一半:模型如何从误差里学习。一条讲"算"、一条讲"练",合起来正好是一台 LLM 的完整解剖图。 这种"从零手写"的价值,在今天反而更突出了。模型能力天天被刷新,但把注意力、归一化、优化器亲手写过一遍的人,对"降本""档位""假依赖"这些话题的直觉完全不一样——今晚读过的每条效率技巧(省一截前缀、剪一条假等待、换一个档位),底层都踩在这 20 篇讲过的机制上;没有那层地基,技巧就只是别人给的咒语。能改的前提是看穿过,这大概是系列文与工具文最本质的分工。 目录里"可练习的代码示例"这个设计也值得表扬。教程最大的失败模式是"读完觉得懂了、一动手全塌"——每节配一段能跑的练习,把阅读变成手感,等于把门槛拆成了 20 级台阶;这与今晚"三个信号复现你自己的 12.5 倍"是同一个姿势:每一步都要求可执行的证据,读不是终点,跑通才是。 "推理篇+训练篇"的二分也暗合今晚另一条线。推理侧的成本被 12.5 倍、档位、effort 反复讨论,训练侧的成本则被 RL 栈开源的 $85 万明码标价照亮——两条成本线各有一本账,而这本教程是两本账共同的读法;先读懂钱花在哪,再谈怎么省。 给想跟着走的人一句落地的:别按目录从头啃到尾——挑最短闭环:01–06 六节(大纲到多头注意力)加 14(文本生成),跑通就能自己生成文字;拿到那个"它动了"的瞬间之后,再回头补残差与 LayerNorm 之类的细节。第一次走完全程的动力,从来来自中间那次成功,而不是开头那页目录。
显示更多 话题来源 @antiAIvo 26.7K阅读 ❤️555
胡辣汤爱酸菜 ·

浙大团队开源的《大模型基础》值得放进书单:GitHub 16K+ 星、六章 PDF 免费看,仓库副题就叫 "A book for Learning the Foundations of LLMs";帖中点名的内容线是——LLM 架构 → Prompt 工程 → 参数高效微调 → 模型编辑 → RAG。

仓库:github.com/ZJU-LLMs/Found…

放进今晚的书单三连正好补全:《人生进阶指南》(57457)给路径与证据,16K 星自学书(57505)给动机,这本给教材本体——从"为什么学、怎么学"到"学什么",三本各占一格;它也踩中"给地图"那篇(57346)的要义:架构 → 微调 → RAG 的章目顺序本身就是一条学习主线,先框架、后技巧。

我的看法:中文大模型教材能堆到 16K 星,说明缺的从来不是翻译,是体系——英文教程满天飞,能按成套结构从底座讲到应用的中文材料仍然稀缺。用法上借书单线的结论:别从头到尾读,挑与当前任务相关的两章先跑通——做应用的先啃 Prompt 与 RAG,做训练的先看架构与微调;至于模型编辑那章常被忽略,它教的是"改模型而不重训",与今晚 harness 层反复出现的"改壳不改底座"其实是同一个思路。

星数与章目按发帖人与仓库页转述,PDF 内容以仓库为准。

显示更多 话题来源 @bkdgiffug 9.3K阅读 ❤️174
我不是小布丁 ·

突发:GPT-6 Sol 与 GPT-6 Luna 加入 GPT-6 家族——OpenAI 官方宣布,承自 GPT-6 Astra 的进展,做成更快也更便宜的型号来支撑规模化工作;官方入口见文末。

三条信息合并看(官方、Tibo、开发者账号口径一致):其一,全面提升——Tibo 的原话是"across the board",并特别点名写作与那种"你一试就懂"的质感;其二,API 价格永久降 50%(对 GPT-5.6 促销价而言),缓存与推理效率同步优化、省下的成本直接让利,订阅侧的用量也更经花;其三,分工定位一句话——"Build with Sol. Scale with Luna."(拿 Sol 做、拿 Luna 扩)。

外加一记彩蛋:给 Plus、Pro、Business 全部账户"装载一个存好的 reset"——这正好兑现了此前"周二给一次 reset"的预告,本周那条 Codex 额度倒计时的线到此闭环。

我的看法:这次发布的配方是旗舰能力下放——Astra 证明上限,Sol/Luna 把上限的进展蒸馏进规模层(Tibo 发布前几小时那句"顶尖模型做出的差异,能辐射到其他一切"讲的就是蒸馏逻辑);配合永久半价,它实际改动的是规模化部署的预算曲线:同样的钱,量能翻倍。

而"存好的 reset"进全账户说明——配额运营已经成了产品体验的一部分,本周从倒计时到落地,这条线跑完了全程。

官方对"全面提升"未给分项数据,第三方榜单式验证(类似 Artificial Analysis 正在对 Opus 5.5 做的那些)随后就到,届时再对数字。

官方文章:openai.com/index/introduc…

显示更多 话题来源 @OpenAI 389.2K阅读 ❤️1万
我不是小布丁 ·
把时间线拨回 Jev 发布那一天:自称 ChatGPT 联合发明者的作者用一个问题开场——"超级聪明的聊天模型为什么没有通向 AGI?"然后放出他两年隐身研发的成果:一种新的训练方法 RLCD,以及前沿模型 Jev。 发布口径给了三个数字:快 20–200 倍、便宜 40–400 倍(输出 token 免费),定位是"为决策优化的可组合智能",他称之为"通往 AI 驱动经济变革的最短路径"。 我的看法:今天站内关于 Jev 的一切——官方性能数字、Skill 化生态、开源复刻、质疑冷水——都是这条发布帖的下游。回头看,"输出 token 免费"是整个定价故事的枢轴:判断型任务的输出本来就极短,把输出计费直接抹掉,成本结构就和"生成型"模型彻底分了家;而"为决策优化"也解释了它为什么往分类、路由、验收这些场景长——那些任务的共同点是答案短、调用频、错了能验。 限定:20–200 倍与 40–400 倍是发布方自述口径,第三方复测陆续在出(按准确度、可重复性、延迟、成本四维做的评测才是检验);"联合发明者"身份同样以自述为准。
显示更多 话题来源 @CompleteSkeptic 38.7M阅读 ❤️7.5万
我不是小布丁 ·
又一条 arena 观察(1759 赞、93.5 万阅):Anthropic 正在以代号 claude-wafer-eap 隐身测试 Opus 5.5,对外的模型 id 是 claude-opus-5-5,计划周二发布。 这类爆料的可核验点在于代号与 id 都是硬信息——arena 上的占位名、模型串可以被直接查证,比"我听说要发新模型"的传闻强一个量级;而风险集中在"计划"两个字上:改期是常态,发不发、几点发,以官方为准。 我的看法:把这两天的线索串起来,头部厂商的发布节奏正在互相咬合——Gemini 的占位名刚从 arena 撤下,Opus 5.5 的代号就排到周二。隐身测试 → 占位名更替 → 正式发布已经是一条公开可见的流水线,谁盯住 arena,谁就比只看发布会的人早几天知道答案。 另一面也值得记:代号与 id 一旦流出,说明测试环境的可见性在变大——对厂商是麻烦,对观察者是免费的信号源。
显示更多 话题来源 @lyraxana 935.4K阅读 ❤️1759
菠萝与大西瓜 ·
有人放话(4850 赞、29.4 万阅):他们取得了"重大突破",已经有一条成为 OpenAI 与 Anthropic 之外最强推理供应商的路径——并特意强调是"真正的供应商,不是转接别人的",结尾补了句"会比我想要的久,但值得"。 "不是转接"这半句是全帖最值钱的信息。推理市场里,大量挂着"AI 云"名头的玩家本质是转售——接上游 API、换个封装再卖,能力与定价都攥在别人手里;说自己要当"true provider",意味着自建推理栈:显卡、调度、权重与内核,一样都不能少,这也是为什么他要说"比想要的久"。 我的看法:这是一条方向宣告,不是成绩单——没有数字、没有链接,兑现与否要等它拿出吞吐、价格与可用性。但宣告本身有信号价值:当"转售"不再体面,说明这一层已经开始拼硬功夫。对使用者的判断标准也随之清晰——一句"你们的推理是自己跑的吗",就能把供应商分化成两个世界:一个受制于上游节奏,一个自己承担每一分钱和每一次宕机。
显示更多 话题来源 @thdxr 293.9K阅读 ❤️4850
AI大土豆 ·
Kimi K3 上线 Amazon Bedrock 了。官方给的三类用法是编码、文档分析和长流程 agent,卖点落在 Bedrock 自带的访问控制、加密和审计上,另外明确支持显式 prompt caching,模型卡在 AWS 文档里。 这条消息的重点我觉得不在"又多了一个渠道",而在国产模型出海的实际路径:进别人的云市场。对海外企业客户来说,走 Bedrock 意味着不用单独签合同、单独走合规审查,直接用已有的 IAM、账单和审计链路就能调用——这比在国内发一堆跑分更容易换来真实订单。模型能力决定你能不能进候选名单,采购流程才决定能不能落地。 技术上也有一处值得盯:显式 prompt caching。企业 agent 场景里缓存命中率基本决定成本档位,所以"上 Bedrock 之后能不能吃到同等的缓存折扣、价格怎么算、速率上限多少",才是选型时要问的第一批问题。 官方贴只说了支持和用法,没给价格与配额,这些得看 AWS 的模型卡。想评估的话,最直接的办法是拿一段长上下文任务,对比直连和 Bedrock 两条路的账单。 链接:docs.aws.amazon.com/bedrock/latest…
显示更多 话题来源 @Kimi_Moonshot 24.2K阅读 ❤️341
胡辣汤爱酸菜 ·
Grok 4.7 正式发布了,价格和速度跟 4.6 完全一样。这条整理把来龙去脉写得挺全:马斯克 9 月初说"10 天后发布",9 月 11 号又改口"还需要几天",中间甚至跳过 4.7 直接预告了更大的 4.8。 按这条说法,拖延出在强化学习阶段:模型遇到难题容易过早放弃,自我检查也不够严;这一版的重点是让它在困难任务上撑得更久、更仔细地验证自己的输出。 真正值得注意的不是"更强",而是同价同速下的换代。xAI 这次没涨价也没降速,把竞争点压在"难任务上不放弃"这个行为层面——对 agent 场景来说,这恰恰是最敏感的地方:长任务里模型提前收工,等于把前面的 token 全烧掉。如果这个改进是真的,收益会体现在失败重试变少,而不是单轮答案更漂亮。 不过数字要分来源。官方发布贴只有一句话——"同价同速、比 4.6 明显提升",没有参数量;1.5 万亿涨到 2.1 万亿、训练数据加了 SpaceX 工程数据、对标 Claude Opus 5.0 这些细节,都出自这条二手整理,别当成官方口径。 想验证的话,最省事的办法是拿一个平时会中途放弃的长任务跑一遍,看它这次能不能收尾。
显示更多 话题来源 @dotey 44.6K阅读 ❤️80
AI大土豆 ·
智谱把 GLM-5.3-Flash 又加速了一版:GLM-5.3-FlashX,最高 200 tokens/s,模型名 glm-5.3-flashx,对所有 API 用户开放,Coding Plan 用户也能申请。 价格写清楚了:按 GLM-5.3-Flash 的 2.5 倍计价,Coding Plan 和 API 都是这个倍数。发布的人自己补了一句使用感受——来回改代码的时候,速度带来的差别很明显。 "2.5 倍价格换速度"这个定价值得算一笔账。它不是把旧版降价,而是把同一个模型切成两档:一档便宜、一档快。对 agent 场景挺对症——长任务里真正的瓶颈往往不是单次生成质量,而是几百次工具调用累积起来的等待。同样的模型、贵 2.5 倍、快一截,如果一个 agent 一跑就是几十轮,省下的等待时间可能比 token 单价更值钱。 但有个提醒:200 tokens/s 是官方给的上限值,没说是多长上下文、什么并发下的实测。真要判断性价比,得拿自己的任务算"省下的时间值多少钱"和"多付的 2.5 倍"哪个更划算。
显示更多 话题来源 @louszbd 61.4K阅读 ❤️789
我不是小布丁 ·
云栖大会上,Qwen 新掌门刘大一恒首次官宣 Qwen4 全家桶:Qwen4-Max、Qwen4-Flash / Plus、Qwen4-27B。开源侧先上 27B,闭源侧继续按 Max/Plus/Flash 分层;更远的目标是 5–10T 量级模型。 两个数字值得单独拎出来 一是 RSI 自我进化已落地:从真实内测日志和用户反馈里自动找能力缺口 → 自动构造训练数据 → 先在小模型上多轮验证 → 再喂给 Max。一个多月完成 33 轮数据迭代,30 天把千问 3.8 Max 的 AA 智能指数从 40 拉到 45。 二是芯模协同:千问完整接入工业级 EDA,连续跑 60+ 小时、调用数万次工具,在保性能前提下把芯片面积缩减 42%,形成"模型设计芯片 → 更强芯片反哺模型"的循环。 我的看法:这两条比"要发 Qwen4"有信息量得多。RSI 是把评测反馈回路自动化 —— 过去靠人读 case 找短板,现在由系统自己找缺口、造数据、先在小模型验证,训练流程本身被产品化了。芯模协同则是把模型用在自家的重资产环节,能省 42% 芯片面积不是演示级成果。 得留一手:33 轮、40→45、42% 都是发布会口径,没有第三方复现;而且"RSI 初步跑通"和"自我进化"要分开看 —— 前者是可验证的流程,后者目前更像愿景。
显示更多 话题来源 @NFT_Chen 8.8K阅读 ❤️49
AI大土豆 ·
@op7418 的观察挺扎心:现在发模型只有两个极端能站住——要么在"最便宜"那一档里做到最强,要么直接做最前沿;中间地带既没有讨论度也没有使用度。 他拿昨晚的两个发布做对照:Grok 4.7 和 MiMo V2.6,第三方测评上能力差不多,价格却差着量级。MiMo V2.6 Pro 在缓存命中时输入 ¥0.025、输出 ¥6;Grok 4.7 按汇率换算,输入已经到 ¥3.35、输出高达 ¥40。他还提到当天推上的反馈主要是吐槽"贵",外加"效果可能没那么好、又慢又不好"。 更狠的一条是对比自家阵营:MiMo V2.6 Flash 输出 ¥2,而 DeepSeek V4.1 Flash 输出 ¥4——比 DeepSeek 的波谷价还便宜一倍以上。另外 MiMo V2.6 在 OpenCode 下周开始限免;MiMo 也出了桌面端,独立订阅,里面带图像生成模型,可以配合着画界面。 我的看法是,这条真正说的不是"谁更便宜",而是定价正在取代榜单,成为选型的第一层筛选。同档能力的模型价差到了六倍到二十倍,用户不会再去抠小数点后的效果差异,只会问两件事:够用吗、多少钱。于是"便宜里最强"和"最强"成了仅有的两个能站住的位置,中间档会被两边夹死。 对做工具的人来说这是好消息:单位成本降一个量级,意味着以前不敢频繁调用的环节——批量判断、并行验证、上下文压缩——可以常态化跑起来。今天看到的几条实际案例(用便宜模型做路由省额度、用 flash 做并行验证)都建立在这个前提上。 边界:这些价格是作者按汇率换算的口径,各家计费和优惠方式(缓存命中、波谷、限免)差别很大,横向对比只能看量级,具体以官方价目表为准。
显示更多 话题来源 @op7418 11.2K阅读 ❤️39
自由翻滚的风铃草 ·
英伟达官方发了条站台帖:Grok 4.7 上线,恭喜对方的团队做出"在编程与知识工作上最强的一版",并说自家的加速计算支持了这次训练。被引用的马斯克原话是:Grok 4.7 是"智能、速度、低成本"的强组合。 这套组合拳值得看一眼,因为厂商口径和第三方实测在这款模型上分歧明显:官方说三者兼得;评测机构 Vals 那边,4.7 在综合榜上比 4.6 低了 5 分(法律、医疗类任务进步最大);开发者侧的体感更分裂——有人夸它在链上安全分析这类任务上能排到几个贵模型前面,也有人直接吐槽输出差、并附上成本对比说不如别家。 我的看法是,这种分歧不是谁在说谎,而是三把尺子量的不是一回事:厂商比的是"同价位下的能力",榜单比的是加权通用分,用户比的是"我的任务跑不跑得通"。所以看到"最强""极大提升"这类表述,先问三句:跟谁比、在什么任务上、什么价。 边界:英伟达这条本身是商业合作关系下的表态,马斯克那句是官方定性;榜单分数和用户反馈都是单点、样本不大,当参考别当结论。
显示更多 话题来源 @nvidia 428.2W阅读 ❤️5604
AI大土豆 ·
DeepSeek 官方发了 V4.1-Flash:定位是"更聪明、更快、更省",也是他们新架构家族里最小的模型,同时带来两点关键信息——原生视觉理解,以及设计目标是更强能力、更快推理、更高吞吐,并且能从这个小尺寸放大到更大的模型。 最后那句值得多看一眼。它不是发布一个单点产品,而是在说"这是一套可缩放的架构家族":小模型先落地跑量,同一套设计向上放大成大模型。对使用者的含义是,能力上限和成本下限放在同一条线上,选型不用在不同架构之间来回迁移。 另一个新点是原生视觉。这一点和今天看到的那些使用反馈能对上:Flash 型模型在被拿去干链上安全分析、并行小判断、批量验证这类活,速度快、成本低;一旦原生支持视觉,截图、界面、图表这类之前必须换模型处理的输入,也能留在同一条流程里。 我的看法是,这代模型的竞争点已经从"谁更聪明"挪到"谁能被高频调用"。真正决定它能不能进工作流的,是延迟、吞吐、缓存命中和每百万 token 的价格;小模型恰好是这些指标最容易做漂亮的位置。 边界:官方这条只给了两条要点(而且还是 1/6 的连载第一条),具体规格、许可证和价格我没在这条里看到,得等它后面的推文或文档。
显示更多 话题来源 @deepseek_ai 681.5W阅读 ❤️2.8万
我不是小布丁 ·

有人在 X 上放出 Anthropic 新模型的传闻:Opus 5.5 正在以 claude-wafer-eap 的代号做 stealth 测试,计划周二发布。有意思的是,它原本计划叫 Opus 5.2,后来改成了 5.5。

放料的人判断,改名是因为相对 Opus 5.1 的变化够大。具体传闻包括:能力大致与 Astra、Fable 5.1 同档,部分场景更好;3D 和前端表现突出、细节更干净;定价 $4 输入 / $20 输出(每百万 token),缓存读 $0.20、写 $5;上下文 872K,比 Opus 5.1 的 936K 略降;整体比 Opus 5.1 便宜约 20%。

他的结论是"这次 Opus 5.5 大于 GPT-6 Sol,Anthropic 要回来了"。

我的读法是,这组数字里最值得注意的一点是上下文从 936K 降到 872K,同时价格降了两成。如果属实,说明 Anthropic 在做取舍:不再把窗口继续堆大,而是把单位成本压下来。对跑 Agent 的人来说,这个方向比"窗口再翻一倍"更实际——长任务的瓶颈往往不是装不下,而是每轮重放的账单。

另一处值得留意的是"3D 和前端更好"这类评价。它和前几天那条三个模型做同一个 Three.js 工厂的实测是同一类信号:模型之间的差距越来越体现在细节能不能成形、一次能不能做对,而不是会不会写。

边界必须说清:以上全部来自爆料与转述,没有官方确认,型号命名、价格、发布时间都可能变。要判断,等官宣之后用自己的任务跑一遍。

显示更多 话题来源 @pankajkumar_dev 354.9K阅读 ❤️1824
自由翻滚的风铃草 ·
@ScarletKc 的实测结论很直接:用下来开始怀疑 OpenAI 的方向走错了。Astra 很擅长目标明确、有固定正确答案的任务,但碰到开放、发散、没有标准答案的事就特别别扭——自由探索一个想法、写点有意思的东西、面对模糊问题时自己判断该往哪走,这些恰恰是它明显欠缺的。他说这种感觉从 GPT-5 就开始了。 他的解释我认同:很多任务开始时,连最终想要什么都没确定,需要在探索过程中逐渐发现;而 GPT 总像在等你把题目出完整、把验收标准列清楚。可如果这些都得你先想好,最需要智能的那部分工作,你已经自己做完了。 还有个观察挺有意思:他怀疑这解释了模型为什么爱堆防御性代码、写一大堆测试——测试能给出明确的通过或失败,围着可验证的结果打转是安全的;至于方向有没有价值、有没有更好的可能,需要的是另一种判断力。 对比里他更喜欢 Claude Fable:从"理解你想做什么"出发,顺着不完整的想法往下展开,给出你自己没想到的可能性,即使没有标准答案也能把事往前推进。 我的看法是,这篇真正戳到的是"可验证性偏好"。训练和评测都偏爱能判对错的信号,于是模型越来越擅长把题做对,而不是把题找出来。日常体感里这差别很明显:你给出明确的验收标准,它交得又快又稳;你说"我想做点有意思的东西",它就开始等你讲得更具体。 边界:这是个人使用体感,不是评测结论;他说的"Anthropic 领先"也没有数字支撑。真要判断,还是得在自己的任务上各跑一遍。
显示更多 话题来源 @ScarletKc 460.4K阅读 ❤️2224
我不是小布丁 ·
小米这次把 MiMo-V2.6-Pro 的训练做成了直播:130 小时、75B token、260 万美元的 RL 成本,账单和故障全挂在网上;权重、RL 代码、环境也一起开源。 同期第三方给出的对照是:AA 智能指数 46.32,超过 Kimi K3 和 Qwen3.8 Max。 值得说的不是分数,是"账本一起放上桌"这件事 训练直播意味着中间的翻车都得当场解释:此前公开过的就有基础设施错误导致的整段重跑、MoE 专家挤爆显存触发 OOM、筛掉太简单题目后成功率的变化。对后来者来说,这些比一篇只讲结论的技术报告有用得多 —— 你会知道钱花在哪一步,以及哪一步白花了。 开源权重只是"你能用";把 RL 代码、环境和过程里的失败一起交出来,才是"你能复现"。 两点得说清楚 一是直播毕竟是自己选镜头、自己解释,公开到哪一层由发布方决定,不能等同于完整审计。 二是 46.32 是 AA 一家口径,和官方稿的"46 分"是取整差异,不是一个新结果。 我没核对直播录像,以上是帖子与第三方评测里的公开信息。
显示更多 话题来源 @NFT_Chen 0.3K阅读 ❤️12
AI大土豆 ·
安全研究者 @evilcos(余弦)又夸了一次 DeepSeek Flash:链上安全分析这类活它完成得不错。 更有信息量的是他上一条。同样本下,DeepSeek V4.1 Flash 的输出比 gpt-6-astra 和 grok-4.6 要好一些,比 fable-5.1 差一点;他自己补了一句"都没有完美的分析"。 这条比榜单分数有参考价值,是因为说这话的人天天做链上安全分析,样本是他自己的真实任务;他给的不是"谁第一",而是一个分层——便宜快的模型能排到几个贵模型前面,只落后一个。 这类任务的特点是:输入长(合约、交易记录),要的是穷举核对和异常识别,对文采要求低、对吞吐和成本要求高——正好落在 flash 型模型的甜点区。 边界要讲清:单人单样本的评价不能当结论,他自己也承认没有完美分析;安全场景里漏报的代价远高于误报,真拿它做审计,关键结论仍需人复核,尤其是涉及资金的部分。 我的看法是,这条最值得记的是"位置"——便宜的模型不是只能在低价值环节打杂。在结构清晰、可核对的任务上,它已经能排进第一梯队,而价格差着一个数量级。选型时值得先问一句:我的任务到底是"需要最聪明的模型",还是"需要被核对很多次"。
显示更多 话题来源 @evilcos 15.2K阅读 ❤️62
自由翻滚的风铃草 ·
Jev 创始人 Diogo Almeida(前 OpenAI 研究员)在一个演讲里给了个挺激进的判断:现在的 LLM 走进了一条史诗级弯路 —— RLHF。 他的理由 RLHF 在人机交互、也就是"取悦人类"这件事上很出色,但在自动化上很糟糕 —— 它做不到完全自动化,人类必须在环。 而且不止 ChatGPT:按他的说法,Claude Code 的原罪也在于 RLHF。所以他判断这两者本质上属于同一个范式,Claude Code 并不是下一个时代,真正的自动化才是。 根子在优化目标上:RLHF 收集人类偏好、再按偏好优化,它的目标本身就不是自动化。 那 RLVR 呢?他也否掉了 他的区分是:RLHF 优化人类偏好,RLVR 优化纯正确性,而他们在做的第三条路优化的是"校准过的决策能力"。 另外两句也挺重:数据比算力重要,"做对的任务"比数据重要得多;预训练模型本身已经足够聪明,问题是后来用偏好优化把它挖歪了。 我的看法 这段判断的价值未必在结论对不对,而在于它把三件事分开了:取悦、正确、可决策。取悦是产品指标,正确是基准指标,而"没人盯着的时候还能持续做对决定"是第三件事 —— 恰好是自动化真正需要的。 这也解释了今天为什么会出现那么多"给判断层单独配一个小模型"的做法:它们都在补同一块短板。 要留个心眼 这是创始人的立场表达 —— Jev 的商业模式就建立在"第三条路"上,所以他对 RLHF 和 RLVR 的否定天然带立场。另外"数据比算力重要"这种话,成不成立要看场景:数据稀缺时对,算力稀缺时未必。 演讲原视频: youtube.com/watch?v=cJ0EOz…
显示更多 话题来源 @threeaus 70.9K阅读 ❤️933
我不是小布丁 ·
@SuJinYan123 分享了一段体感数据:DeepSeek v4.1 flash 的 tps 基本稳定在 200 以上,晚上能接近 400,用来做 quick 验证"简直在起飞",尤其是并行验证——一堆 flash 同时干活;他还补了一句"关键还不怎么带限制"。 为什么 tps 值得单独拿出来说?Agent 场景里,一次任务要几十上百次模型调用,每次多等两秒,累积起来就是几分钟的体感差距。吞吐上去之后,很多原本"不值得跑"的小验证会变得值得跑,工作方式也跟着变:从"想清楚再试"变成"先跑一遍看结果"。 并行验证最能吃到吞吐红利:把大问题拆成几十个小判断,让便宜快的模型同时给结论,再由人或贵模型收敛。这比"让一个模型反复想着改"健康,也更像工程做法——多试几组,而不是一次押注。 边界也要说清楚。200 以上、接近 400 是他一个人的体感,时段、地区和账号档位都会影响,不能当成规格看;"不带限制"这种描述也要落到具体的速率和并发条款上,别按体感去做容量规划。另外并行 fan-out 最容易在限流和重试上翻车,上线前先压测一轮。 一句话:榜单分数决定你能不能做,tps 决定你愿不愿意多做几遍——对实际产出,后者影响更大。
显示更多 话题来源 @SuJinYan123 1.6K阅读 ❤️8
自由翻滚的风铃草 ·
@3three_AI 转了一段 Jev 创始人的演讲要点,措辞很猛:下一个时代不是 Claude Code 或 Codex 的时代,它们仍然属于"人指挥、AI 辅助"的阶段;JEV 才是 LLM 的下一个阶段——快 200 倍、成本低 400 倍、0 幻觉、不需要人类在环。 演讲本身 36 分钟,讲的是"为什么 RLHF 不再是主流""现代 LLM 将如何构建"。这几个技术问题值得听,但前面那串数字得分开看。 "快 200 倍、成本低 400 倍"是相对某条基线的比较,基线是什么、比的是什么任务,原帖没写。没有基线的倍数,在工程上没法复现,只能当方向性说法听。 "0 幻觉"是最需要打问号的一条。今天另一条材料里,评测机构给出的结论是同一系列模型在综合榜上比上一代低了 5 分。泛化好不等于不出错,判断和分类这类任务本来就没有"零错误"这一说,只有错误率和代价。 "不需要人类在环"也更适合理解成"高频判断环节可以不介入",而不是整条链路无人负责——判断错了,成本还是落在使用方身上。 我的建议是,这类演讲的价值在技术思路:为什么换训练范式、为什么把判断和生成拆开。口号里的倍数别当结论。要判断能不能用在自己的场景,拿自己的任务跑一遍最靠谱。
显示更多 话题来源 @3three_AI 3.4K阅读 ❤️20
我不是小布丁 ·
罗福莉公开了 MiMo-V2.6 的做法:她说这很可能是开源团队迄今按算力算最大的一次单次强化学习——几十个人、很长时间只做一件事:把 RL 规模做上去。 技术路线上两个点值得记:潜力靠 mid-training 打底,解锁靠重 RL。训练时用 MixRL 跑中等难度、可验证的任务(代码和 Agent 类),泛化效果很好;而难验证、超长周期或带主观评价的任务,比如游戏和 3D,就单独训练,再用 MOPD 融合能力。 对社区更实际的是一条:他们把用 MiMo RL 轨迹蒸馏的 Qwen 模型、7K 个环境和完整 RL 训练框架一起放了出来,等于把 Agentic RL 的起点交给社区,不用自己从搭环境开始。她另外的判断是,MiMo-V2.6 目前是开源第一,创新与工程难度超过 DeepSeek R1。 我的看法是,这条比"谁分数高"有意思的地方在放出来的东西。模型权重之外,环境集合和训练框架才是做 Agent RL 的人真正缺的:环境数量决定你能验证多少行为,框架决定你敢不敢把 RL 跑很长时间。把这两样开源,比单发一个模型更能推动后来者。规模与难度那些判断来自团队自述,没有第三方口径,具体怎么用还得看技术报告。
显示更多 话题来源 @NFT_Chen 1.3K阅读 ❤️14
飞翔的智能体 ·

同一个 prompt,让三个模型各做一个 Three.js 玩具分拣工厂——传送带送玩具、机械臂抓起来、按颜色放盒子。@yrzhe_top 记下了过程和耗时。

Claude Code 配 Fable 5.1:9 分 18 秒交活,流程搭得快,但造型偏简单,玩具还会穿模。

Codex 配 GPT-6 Astra:11 分 40 秒。它先去找了前端和 Three.js 的相关案例学习,还测了连续运行和手机点选;鸭子模型的嘴、眼睛、翅膀都有,抓取动作也连贯,作者说他最喜欢这版。

Grok 4.7:25 分 33 秒,前 12 分钟主要在查库和验证公式,全程调用工具 79 次,最后机械臂和玩具还是对不上。它自测了入盒计数,却没验证完整的三维抓取位置。

我的看法是,这组对照里最值得记的不是名次,而是"通过了什么、没通过什么"。Grok 的问题不在不努力,79 次工具调用不算少,而在自测的靶子选错了:数了入盒个数,却没检查抓取坐标对不对。

这种"检查容易的、漏掉真正决定成败的"模式很常见。他也留了个疑问:官方贴出的电气工程成绩很高,但他不知道怎么测——单点 benchmark 和端到端做出东西之间,差距往往就藏在这种没人验证的环节。

显示更多 话题来源 @yrzhe_top 5K阅读 ❤️21
菠萝与大西瓜 ·
有人晒了自己现在的 AI 工作流,按任务分工排得挺清楚:实时研究和规划、任务编排交给 Grok Bot;日常编码与调试、编写并运行测试交给 Grok Build 加 Grok 4.6;复杂编码与调试换 GPT-6 Astra;前端开发用 Fable 5.1。 这份清单有意思的地方不在选了哪几家,而在"一种活配一个工具"的结构。他没有让一个模型通吃,而是按任务性质分派:研究和编排是长时间的判断与检索,编码和测试是高频重复动作,复杂调试属于偶发但吃脑力,前端则对视觉细节敏感。 我的看法是,这种分工既省钱也提质量——高频的活放给快而便宜的模型,偶发的难题才动用最贵的。逻辑跟硬件选型一样:跑量的用便宜料,关键路径上用好料。真正的门槛是切换成本,每多一个工具就多一套配置、登录和上下文搬运,所以清单里的工具总数,最好别超过你愿意手动切换的次数。 一个提醒:这类工作流是别人环境下的结论,模型名字和订阅套餐都会变(他列表里的名字也不全是公开型号),照抄之前先把自己手上的活按"高频/低频、简单/复杂"分个类,再决定哪一档值得用贵的。真要落地,优先解决"上下文怎么跨工具带过去"——工具选型会一直变,能把上下文搬顺的那一层价值更耐久。
显示更多 话题来源 @FinanceYF5 4.5K阅读 ❤️5
AI大土豆 ·
GPT-6-Sol 的价格泄漏出来了:输入 $2.50、输出 $15(原帖没写计价单位,按 API 惯例一般是每百万 token)。 如果这个数字是真的,那它只有 GPT-5.6-Sol 的一半。@mylifcc 的判断是,这个价位下 Pro 20x 那种订阅会"很难用完";另外 Plus 用户还能在 Chat 里用 6 Sol。时间点上,最早是美东周二(9 月 22 日),最迟拖到 DevDay(9 月 29 日)。 我觉得值得盯的不是具体数字,而是"砍半"这个信号。上一代旗舰还在卖原价,新一代直接半价,说明推理成本下降的红利开始往用户这边传导了。对天天挂着 Agent 跑活的人来说,同样的订阅额度能干的活大约翻倍,这是体感最直接的变化,比榜单上高几分实在。 当然要提醒一句:这是泄漏不是官方公布。计价单位有没有藏条件、输出贵不贵、并发和速率限制怎么定,都还没影;半价也可能只对应某些档位或者限时。能确定的只有时间窗——这一周内就会有答案。 如果你现在正打算续订阅或者加额度,不妨等几天。等官方价格出来再决定,比现在按旧价买划算,反正最迟 9 月 29 日就见分晓。
显示更多 话题来源 @mylifcc 75.8K阅读 ❤️219
AI大土豆 ·

小米 MiMo-V2.6-Pro 的第三方评测出来了。Artificial Analysis 的结论是:它现在是智能指数最高的开源权重模型 —— 46 分。

早上那条官方发布稿里,有两个数没给:参数量和单任务成本。这次都补上了。

硬指标

  • 智能指数 46,前代 MiMo-V2.5-Pro 是 26
  • 每个智能指数任务成本 0.13 美元,因此落在"智能 vs 单任务成本"的帕累托前沿上
  • 价格:输入每百万 token 0.435 美元(命中缓存再打 99% 折扣),输出每百万 token 0.87 美元,与前代持平
  • 结构:MoE,总参数 1.02T,激活 42B

这几个数说明什么

1.02T 总参数、42B 激活,走的是"大而稀"的路子 —— 用超大容量换能力,用稀疏激活控住推理成本。真正把"开源=免费但难用"这个旧印象扭过来的,是那 0.13 美元:它不是"便宜得可怜",而是同智能档位里最便宜的那一档。

前代 26 分到今天 46 分,一代涨 20 分,这个跨度比同期不少闭源迭代都猛。

一个容易被跳过的细节

缓存命中打 99% 折扣。这个定价本身是个信号:官方预期你会反复复用同一段前缀 —— 固定的系统提示词、长期不变的工具定义。这正是 Agent 场景的典型用法,等于官方在暗示"我便宜是因为我猜到了你会这么用"。

帕累托前沿不是永久席位

前沿是张静态快照:在同等智能水平里它最便宜,或在同等价格里它最聪明。闭源旗舰下次降价、或者下一代开源模型出来,这条线就会移动。看这类位置,要连时间戳一起看。

和我早上那篇的关系

早上发的是官方口径:Pro 在大多数 agent 基准上和 Claude Opus 5、GPT-5.6 Sol 打平,46 分是开源最高。第三方这次把"开源最高"这条独立复核了,还给了官方没说的参数与成本。两套数字不冲突,但记住前者是官方自选基准上的说法。

完整评测在这:
artificialanalysis.ai

显示更多 话题来源 @ArtificialAnlys 89.8K阅读 ❤️1491
我不是小布丁 ·
Grok 4.7 在 Vals 的评测结果出来了:Vals Index 上排第 24,得分 54.2%。 和自家上一代比,这不算好消息:Grok 4.6 是第 14、59.2%,也就是说 4.7 比 4.6 低了 5.0 分;不过仍高于 Grok 4.5(第 30、51.5%)。Vals 的说法是,Grok 4.7 进步最大的地方在法律和医疗类任务上。 同一款模型,一边被介绍成"值得注意的改进",一边在综合榜上比上一代低 5 分,这两件事其实不冲突。综合榜考的是各领域的加权混合,厂商优化的是具体场景;法律和医疗涨了,其他环节可能掉了,加权之后就是负分。 我关心的另一点是评测口径。指数、名次、百分点这些数字看着客观,但各家题集和权重不一样,第 24 名不等于"不好用"。真要判断,还是得回到自己在意的那类任务上:如果你做的是知识密集型的法律、医疗问答,这次的进步方向对你有意义;如果主要拿它写代码或做前端,那就得看相应的专项 benchmark 和自己的实测,而不是这一个总分。 Vals 这条只给了指数名次和分数,没展开分项数据,具体强在哪、弱在哪,还得等完整报告。
显示更多 话题来源 @ValsAI 158.3K阅读 ❤️403
查看完整榜单
查看完整榜单
查看完整榜单