AtomicChat发布去审查版DeepSeek跑分不掉

时间：2026年10月28日上架 Hugging Face，10月31日完成最后一次权重与文档更新。 地点：线上 Hugging Face 模型仓库，发布方为 AtomicChat；量化基座来自奥地利 IST Austria 的分布式算法与系统实验室（DASLab），运行时为开源项目 Strata。 人物：AtomicChat 团队，即把开源权重模型放在本地离线运行的那个应用的开发方，本次权重改造的作者；DASLab 是 GSQ-RCO 量化版与共享 Engram 文件的作者；DeepSeek 为基座模型提供方。 事件详情：AtomicChat 在 Hugging Face 上发布 DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF，把 DeepSeek 最新模型的拒答方向从权重里去掉。它不重新训练，而是直接拿 DASLab 的 GSQ-RCO 量化版当骨架（revision cb02422c900d），只替换三处会写残差的稠密张量：注意力输出 attn_output_b、共享专家下投影 ffn_down_shexp、Engram 值投影 engram_wkv。384 个路由专家保持 DASLab 原样逐字节不变，因此 GSQ 学到的低比特舍入被完整保留，每个分片体积和原版一致。拒答编辑强度为 2.0，以全精度写进权重后再按 DASLab 的逐张量类型量化。 模型卡给出的对照表，是同一 Strata 运行环境、同一提示词与模板下，原始 GSQ-RCO 档位与去审查版的逐项对比。IQ2_XXS 档 2.0 bpw、合计 249GB，JailbreakBench(EN) 一栏由 85.2% 降到 0.0%，XSTest 的 safe refused 由 7.6% 降到 0.0%，30 题的 thinking high 由 27/30 降到 0/30，MMLU-500 为 82.8%（p=0.27），与原档位的 KL 为 0.0225。IQ2_XS 档 2.25 bpw、266GB，JailbreakBench(EN) 由 86.4% 降到 0.0%，XSTest 由 4.0% 降到 0.4%，thinking high 由 27/30 降到 2/30，MMLU-500 为 81.6%（p=1.00），KL 为 0.0272。IQ1_M 档 1.75 bpw、231GB，JailbreakBench(EN) 由 88.9% 降到 0.0%，XSTest 由 4.8% 降到 0.0%，thinking high 由 27/30 降到 1/30，MMLU-500 为 80.6%（p=0.75），KL 为 0.0207。三个档位与拒答相关的几项指标都归零或接近归零，而分布偏移 KL 只有 0.02 上下、MMLU-500 与原量化档相差 1 分以内。 推理能力方面，IQ2_XXS 档与原始 GSQ-RCO 量化版在同一套环境下对照：GPQA-Diamond（198 题）83.3% 对 83.3% 持平，AIME25（30 题）76.7% 对 80.0%，模型卡给出的结论是这种改法不消耗任务精度。运行方式是开源项目 Strata：骨干权重放在系统内存，110GB 的 Engram 查表文件放在 SSD 上流式读取，单张 12GB 显卡就能跑起来。仓库许可为 MIT，抓取时下载量约 3 万次、点赞 175。 背景：DeepSeek-V4.1-Flash-1017 是 DeepSeek 于 10 月 17 日发布的版本，官方说明里写的是用强化学习自反馈改进端到端项目开发，网页端、APP 与 API 已同步切换，权重以 MIT 许可在 Hugging Face 和 ModelScope 开源。把这种量级的模型压进消费级硬件，靠的是 IST Austria DASLab 的 GSQ-RCO 路线，GSQ 配合残差修正把混合专家结构压到极低比特，再由 Strata 的分块流式加载在单张显卡上跑起来。把拒答方向从权重里抹掉的做法此前多见于较小模型，而 763B、384 个专家的旗舰模型叠加极低比特量化的组合并不多见。AtomicChat 此前也发过同系列模型的去审查版本，这次是把同一手法用到最新的 1017 版本和 GSQ-RCO 骨架上。 影响：对想在本地跑最强开源模型、又不希望官方拒答策略打断流程的开发者，这套权重是现成方案，文件体积与原版一致，量化精度和推理能力基本保住，一块 12GB 显卡加一块速度够用的 SSD 就能起步。但模型卡同时写明三条限制：拒答分类器只读答案开头，中途出现的软性拒绝有可能被当成正常回答；这次编辑是跨话题移除拒答，并不保留更窄的一层拒答；开启思考模式时，模型会替原本会被拒绝的请求做长计划，需要更大的 token 预算或调低 effort。法律与合规责任由使用者自己承担。另外 DeepSeek-V4.1 搭配独立 Engram 文件的组合目前还不能在 llama.cpp 上运行，只能用 Strata。 总结：AtomicChat 把 DeepSeek 最新旗舰的拒答方向从 GSQ-RCO 量化权重里抹掉，三个档位的分片体积与原版一致，拒答相关的指标降到 0，GPQA-Diamond 保持 83.3%、AIME25 从 76.7% 升到 80.0%，说明只改稠密残差写张量的做法基本不吃任务精度。这是社区在模型权重层面做的改造，不是 DeepSeek 官方行为，模型卡也写明使用责任归用户。它把单机跑旗舰开源模型又往前推了一步，但门槛是必须用 Strata 运行时、准备放得下 110GB Engram 查表文件的 SSD，并接受模型自己写明的三条限制。 常见问题： 问：DeepSeek V4.1 Flash 无审查版怎么本地跑？ 答：只能配 Strata 用：下载对应档位的 GGUF 分片和 DASLab 的共享 Engram 文件（约 110GB）放 SSD，用 strata launch 启动。 问：跑这个 763B 模型要什么显卡？ 答：单张 12GB 显卡即可，骨干权重放内存，110GB 的 Engram 查表文件从 SSD 流式读取。 参考来源： Hugging Face 模型仓库（AtomicChat，权重文件与下载说明） https://huggingface.co/AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF 模型卡 README 原文（对比表格、测量方法与启动命令） https://huggingface.co/AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF/raw/main/README.md Hugging Face 模型 API 元数据（创建与更新时间、下载量、点赞数） https://huggingface.co/api/models/AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF Hugging Face：ISTA-DASLab 的 GSQ-RCO 量化基座 https://huggingface.co/ISTA-DASLab/DeepSeek-V4.1-Flash-1017-GSQ-RCO-GGUF Hugging Face：DeepSeek 官方 DeepSeek-V4.1-Flash-1017 权重 https://huggingface.co/deepseek-ai/DeepSeek-V4.1-Flash-1017 GitHub：Strata 运行时，单卡分块流式加载 https://github.com/Niko1221/Strata Hugging Face 数据集：AtomicChat 的测量结果与每题日志 https://huggingface.co/datasets/AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GGUF-metrics DeepSeek 官方更新日志：DeepSeek-V4.1-Flash-1017 发布说明（2026/10/17） https://api-docs.deepseek.com/news/news261017 abliteratedmodels.org：DeepSeek-V4.1-Flash-1017-UNCENSORED 索引页 https://www.abliteratedmodels.org/deepseek-v4.1-flash-1017-uncensored/