👁 565 次阅读
361 个 HackerNews 分数、247 条评论、发布当天没有任何托管服务能跑它——Aleph Alpha 的 Kolibri 在 10 月 3 日上线,把『主权模型』这四个字从口号变成了可下载的 78GB 权重文件。
一、Kolibri 是什么:78B 总参数,3B 在干活
Kolibri 是 Aleph Alpha 的英文/德文双语 MoE Transformer,总参数 78.1B,每个 token 只激活约 3.46B(4.4%)。上下文原生 262,144 tokens,验证可用到 1,048,576。权重 Apache 2.0 开源,2026 年 10 月 3 日在德国统一日当天发布——公司特意挑了这一天。
训练侧:768 张 GPU、约 24 万亿 tokens、21.3% 为德语原生数据(仅 6% 翻译数据,因为翻译文本会带来源语言的『文化指纹』)。发布当天没有任何推理厂商托管它,官方模型卡直接写明这是一次『深度优先于广度』的刻意取舍。

二、3B 激活参数,为什么能对标 12B 级对手
三个设计共同撑起这个反差。第一,MoE 路由:50 层,每层 384 个专家加 1 个共享专家,路由器每个 token 只挑 6 个。第二,UniBPE 分词器:12.8 万词表,专治德语长复合词。柏林宪法法院名称 GPT-5 的分词器切成 6 个 token,Kolibri 只切 2 个。
第三方(tejas_kumar)把德国基本法 185KB 原文跑过 6 个分词器交叉验证:Kolibri 比 GPT-5 少用 15% token,比官方自报的 11.2% 还低。第三,滑窗注意力:50 层中 40 层只看前 512 tokens,每第 5 层才全局看。代价是 78GB 权重必须整块常驻内存——2 张 A100/H100 80GB 起步,笔记本别想了。
三、真实成绩单:一边是 AIME 87.5,一边是垫底
Kolibri 在 Aleph Alpha 自己的评测里,德语数学 AIME 2025 拿到 87.5,超过 NVIDIA Nemotron 3 Super 的 84.4;德语综合 70.8 也压过 Qwen3.5 35B-A3B 的 69.8。它还有个特色能力:Merlin-Arthur 协议训练出的『知不知道』——Artificial Analysis 的 Omniscience 测试里,Kolibri 有 44% 的难题选择回答『我不知道』,Qwen3.5 是 11.1%,GPT-OSS 120B 是 23.7%。
但同一份模型卡把短板排在旁边:闭卷 RAG-Bench 12 个模型垫底(51.0),Omniscience 正确率仅 14.8%;BFCL 多轮工具调用 39.8,对手 58.2;SWE-bench Verified 39.7,落后 Qwen3.5 的 66.4。HN 高赞评论说得直白:『那它到底擅长什么?发传真吗?』
这是 RAG 场景模型的经典画像:有文档时很强,没文档时很弱。它把『不知道』当答案的能力,是幻觉率换知识密度的结果,不是全能。
四、另外两条值得记一笔的热点
Redis 作者开源 ds4:本地跑 284B 参数
Salvatore Sanfilippo(Redis 作者,HN 332 分)的 DwarfStar 4 是一个窄化 C 推理引擎,只做 DeepSeek V4/V4.1、GLM 5.x、Qwen3.8 Flash Next 三类模型,支持 Metal/CUDA/ROCm。非对称 2-bit 量化只压路由专家、保留关键路径精度;KV cache 落盘并按 prompt 前缀 SHA1 持久化,重启不用重新 prefill。M5 Max 128GB 下 32K 上下文跑到 34.4 T/S 生成、557 T/S prefill。GitHub 已 2.3 万星。

社区争议集中在量化质量——有人说 ds4 的量化『不太行』,也有人贴 Unsloth 对比基准表示 ds4 更好。AMD 社区则在催 Intel/AMD 支持:有人提到 AMD 早在 6 月就寄了一台 Strix Halo 给 antirez,秋末确实有 ROCm 提交进来。
Pop!_OS 全面禁用 AI 生成代码
System76 宣布在大部分 Cosmic 代码库中禁止 AI 生成的代码(HN 57 分)。这和之前 Oracle 禁止 AI 代码进 OpenJDK 是同一条线:AI 编码工具的产出正在被上游项目系统性拒收。对写 AI 辅助编程教程的读者,这是一个不能忽略的方向变化——合规审查的成本正从厂商转移到下游维护者。
五、三条线合起来看什么
Kolibri 押的是受监管场景:政府、工业、航空。ds4 押的是把 284B 模型拉回本地内存。Pop!_OS 押的是把 AI 产出挡在代码库外。三者共同指向同一件事——2026 年下半年的 AI 竞争主轴,已经从『谁的模型更大更聪明』,转到『谁能把自己的数据、权重和供应链都攥在手里』。
『主权』这个词过去常挂在采购文档里,现在它有了 78GB 的 Apache 2.0 权重、一个本地推理引擎,和一份上游项目的封禁清单。三者都不是产品发布,但它们一起定义了接下来的采购清单会长什么样。
如果你已经在做长文档 RAG,Kolibri 值得一试,但先准备好 2 张 80GB 卡和一次完整评测——它的强项和弱项都写在同一张模型卡上,别只看那一列高分。另外,如果你在用 Perplexity 做资料检索,《Perplexity Comet 实战教程》里那份 API 接入与 CometJacking 加固指南可以顺手看一眼。