Kolibri 来了:78B 总参数只激活 3B,德国人的『主权模型』第一天就被 HN 顶到第一

👁 565 次阅读

361 个 HackerNews 分数、247 条评论、发布当天没有任何托管服务能跑它——Aleph Alpha 的 Kolibri 在 10 月 3 日上线,把『主权模型』这四个字从口号变成了可下载的 78GB 权重文件。

一、Kolibri 是什么:78B 总参数,3B 在干活

Kolibri 是 Aleph Alpha 的英文/德文双语 MoE Transformer,总参数 78.1B,每个 token 只激活约 3.46B(4.4%)。上下文原生 262,144 tokens,验证可用到 1,048,576。权重 Apache 2.0 开源,2026 年 10 月 3 日在德国统一日当天发布——公司特意挑了这一天。

训练侧:768 张 GPU、约 24 万亿 tokens、21.3% 为德语原生数据(仅 6% 翻译数据,因为翻译文本会带来源语言的『文化指纹』)。发布当天没有任何推理厂商托管它,官方模型卡直接写明这是一次『深度优先于广度』的刻意取舍。

Kolibri 训练依赖德国与芬兰的基础设施,768 张 GPU
Kolibri 训练依赖德国与芬兰的基础设施,768 张 GPU

二、3B 激活参数,为什么能对标 12B 级对手

三个设计共同撑起这个反差。第一,MoE 路由:50 层,每层 384 个专家加 1 个共享专家,路由器每个 token 只挑 6 个。第二,UniBPE 分词器:12.8 万词表,专治德语长复合词。柏林宪法法院名称 GPT-5 的分词器切成 6 个 token,Kolibri 只切 2 个。

第三方(tejas_kumar)把德国基本法 185KB 原文跑过 6 个分词器交叉验证:Kolibri 比 GPT-5 少用 15% token,比官方自报的 11.2% 还低。第三,滑窗注意力:50 层中 40 层只看前 512 tokens,每第 5 层才全局看。代价是 78GB 权重必须整块常驻内存——2 张 A100/H100 80GB 起步,笔记本别想了。

三、真实成绩单:一边是 AIME 87.5,一边是垫底

Kolibri 在 Aleph Alpha 自己的评测里,德语数学 AIME 2025 拿到 87.5,超过 NVIDIA Nemotron 3 Super 的 84.4;德语综合 70.8 也压过 Qwen3.5 35B-A3B 的 69.8。它还有个特色能力:Merlin-Arthur 协议训练出的『知不知道』——Artificial Analysis 的 Omniscience 测试里,Kolibri 有 44% 的难题选择回答『我不知道』,Qwen3.5 是 11.1%,GPT-OSS 120B 是 23.7%。

但同一份模型卡把短板排在旁边:闭卷 RAG-Bench 12 个模型垫底(51.0),Omniscience 正确率仅 14.8%;BFCL 多轮工具调用 39.8,对手 58.2;SWE-bench Verified 39.7,落后 Qwen3.5 的 66.4。HN 高赞评论说得直白:『那它到底擅长什么?发传真吗?』

这是 RAG 场景模型的经典画像:有文档时很强,没文档时很弱。它把『不知道』当答案的能力,是幻觉率换知识密度的结果,不是全能。

四、另外两条值得记一笔的热点

Redis 作者开源 ds4:本地跑 284B 参数

Salvatore Sanfilippo(Redis 作者,HN 332 分)的 DwarfStar 4 是一个窄化 C 推理引擎,只做 DeepSeek V4/V4.1、GLM 5.x、Qwen3.8 Flash Next 三类模型,支持 Metal/CUDA/ROCm。非对称 2-bit 量化只压路由专家、保留关键路径精度;KV cache 落盘并按 prompt 前缀 SHA1 持久化,重启不用重新 prefill。M5 Max 128GB 下 32K 上下文跑到 34.4 T/S 生成、557 T/S prefill。GitHub 已 2.3 万星。

ds4 提供 CLI、HTTP API 与原生 Agent 三种接口
ds4 提供 CLI、HTTP API 与原生 Agent 三种接口

社区争议集中在量化质量——有人说 ds4 的量化『不太行』,也有人贴 Unsloth 对比基准表示 ds4 更好。AMD 社区则在催 Intel/AMD 支持:有人提到 AMD 早在 6 月就寄了一台 Strix Halo 给 antirez,秋末确实有 ROCm 提交进来。

Pop!_OS 全面禁用 AI 生成代码

System76 宣布在大部分 Cosmic 代码库中禁止 AI 生成的代码(HN 57 分)。这和之前 Oracle 禁止 AI 代码进 OpenJDK 是同一条线:AI 编码工具的产出正在被上游项目系统性拒收。对写 AI 辅助编程教程的读者,这是一个不能忽略的方向变化——合规审查的成本正从厂商转移到下游维护者。

五、三条线合起来看什么

Kolibri 押的是受监管场景:政府、工业、航空。ds4 押的是把 284B 模型拉回本地内存。Pop!_OS 押的是把 AI 产出挡在代码库外。三者共同指向同一件事——2026 年下半年的 AI 竞争主轴,已经从『谁的模型更大更聪明』,转到『谁能把自己的数据、权重和供应链都攥在手里』。

『主权』这个词过去常挂在采购文档里,现在它有了 78GB 的 Apache 2.0 权重、一个本地推理引擎,和一份上游项目的封禁清单。三者都不是产品发布,但它们一起定义了接下来的采购清单会长什么样。

如果你已经在做长文档 RAG,Kolibri 值得一试,但先准备好 2 张 80GB 卡和一次完整评测——它的强项和弱项都写在同一张模型卡上,别只看那一列高分。另外,如果你在用 Perplexity 做资料检索,《Perplexity Comet 实战教程》里那份 API 接入与 CometJacking 加固指南可以顺手看一眼。

订阅 AI 百事知

每周精选 AI 工具评测、行业资讯与使用教程,第一时间送达。

🔗 相关阅读(你可能还想看)

📄 Gemini Omni 1.2 Flash 发布:视频降价30%、原生15秒,单条成本只贵5分钱
谷歌 11 月 5 日开放 Gemini Omni 1.2 Flash:720p 视频每秒 0.07 美元,比上代降 3
📄 GPT-6 Cyber 发布:121 万美元,948 条通往 root 的路
OpenAI 发布 GPT-6 Cyber:在 Linux 内核上跑出 948 个本地提权利用,整轮 API 成本 12
📄 Anthropic冲刺IPO:170亿营收、8950亿算力承诺、首次在招股书披露递归自我改进风险
📄 Anthropic IPO招股书曝光:单季营收170亿美元背后的8954亿美元算力账单
📄 阿里千问接入 Apple Intelligence:中国版 iPhone 的 AI 时刻来了
📄 苹果AI中国落地靴子落地:千问接入Apple Intelligence,11月4日开测
📄 苹果官宣:Apple Intelligence 国行版落地,阿里千问深度接入 Siri 与系统写作工具
苹果官宣 Apple Intelligence 国行版 11 月 4 日开测、12 月随 iOS 27.3 正式上线。阿
📄 Anthropic 递交 S-1 启动 IPO:Claude 母公司估值剑指 2 万亿美元
📄 Cerebras 公开万亿参数模型部署方案:59 块晶圆跑 3T 参数,推理 2000 tokens/秒
🤖 想直接和 AI 对话?
免费体验 DeepSeek V4 等顶级模型,无需注册,随问随答
🎯 立即体验 AI 工具

发表评论

您的邮箱地址不会被公开。 必填项已用 * 标注

🤖 嘟嘟客服
滚动至顶部
🤖 嘟嘟客服
🤖 嘟嘟客服
';i.value='';m.innerHTML+='
...
';fetch('/dify-chat',{method:'POST',headers:{'Content-Type':'application/json'},body:JSON.stringify({query:q,user:'w'+Date.now()})}).then(function(r){return r.json()}).then(function(d){var a=d.answer||'暂时无法回复';m.removeChild(m.lastChild);m.innerHTML+='
'+a+'
'}).catch(function(){m.removeChild(m.lastChild);m.innerHTML+='
网络异常
'})">发送