👁 234 次阅读
引言：一颗把 4 万亿晶体管焊成一颗芯片的处理器，如何把推理速度拉到 GPU 方案的 30 倍
2026 年 8 月 18 日，Cerebras 发布 CS-4——机架级、由三片全新 WSE-3T（WSE-3 Turbo）组成的 AI 推理系统。官方公告给出的数字相当激进：单用户、GPT-OSS-120B 场景，4,400 tokens/秒，比主流 GPU 方案快 30 倍；对比自家上代 CS-3，速度快 2 倍、单位功耗吞吐量提升 10 倍。Cerebras CEO Andrew Feldman 的表述很直接：『AI 快，就是生产力』（Speed is productivity）。
这类硬件公告最容易变成堆砌参数。所以这篇文章想回答的是一件更实际的事：CS-4 到底解决了什么 GPU 解决不了的问题？它的 30 倍性能宣称，在什么负载下成立、什么负载下会失效？对正在选型推理方案的团队，这套新的数据该怎样被写进决策框架里？以下所有数字来自 Cerebras 官方新闻稿和第三方独立分析（Spheron 网络、arXiv 技术评估），每个关键数字都会标注来源。
一、CS-4 到底是什么：先看官方给出的完整规格
CS-4 是 Cerebras Nexus 机架级平台架构的首个迭代，它不是一颗独立的加速卡，而是由三片 WSE-3T 组成的完整推理系统。Cerebras 官方公告（2026 年 8 月 18 日）给出的核心参数：
| 指标 | CS-3（1 片晶圆） | CS-4（3 片晶圆） | 提升幅度 |
|---|---|---|---|
| 系统 I/O 带宽 | 1.2 Tbit/s | 7.2 Tbit/s | 6 倍 |
| I/O 延迟 | 5 微秒 | 2 微秒 | 低 60% |
| AI 算力 | — | 750 PFLOPS | — |
| 内存带宽 | — | 129.6 PB/s | — |
| 晶圆对晶圆延迟 | 5 微秒 | 低至 2 微秒 | 低 60% |
| 可支撑模型规模 | — | 超 50 万亿参数 | — |
| 单位功耗吞吐量（vs CS-3） | 基线 | 最高 10 倍 | 10 倍 |
| 单用户推理速度（GPT-OSS-120B） | — | 4,400 tok/s/用户 | GPU 方案的 30 倍 |
WSE-3T 本身是业界最大的 AI 处理器：4 万亿晶体管、90 万个 AI 核心、46,225 平方毫米硅面积、44GB 片上 SRAM。对比 WSE-3，WSE-3T 把 AI 算力翻倍到 250 PFLOPS/片，内存带宽翻倍到 43.2 PB/s，晶圆对晶圆 I/O 延迟从 5 微秒降到 2 微秒。CS-4 把三片 WSE-3T 组装成机架，总算力 750 PFLOPS、总内存带宽 129.6 PB/s、计算织物带宽 160.5 PB/s。
CS-4 的工程创新不止于算力本身。它引入的 Wafer-Scale Backpack 把电源转换、直液冷却、高速 I/O 和控制电子学折叠成围绕晶圆的紧凑 3D 包体，比上一代系统组件数量减少 50%、自动化制造比例提升 60%，部署时间从数天压缩到数小时。更关键的一步是把电源转换模块从常规 GPU 板的约 50 毫米距离拉到晶圆的 0.5 毫米，几乎消除了板级功率损耗，让 WSE-3T 能跑更高频率、出更多 token。
二、30 倍更快，凭什么：单晶圆 SRAM 架构为什么和 GPU HBM 走的是两条路
理解 CS-4 的性能来源，要理解它和主流 GPU 的根本架构分歧。主流 GPU（H100、B200）用离芯片 HBM 显存，容量大（80GB/192GB）、带宽高（3.35TB/s HBM3），但延迟高（约 100–200ns）。Cerebras WSE-3T 把 44GB SRAM 直接做进晶圆，容量小但延迟极低（约 1–2ns），快两个数量级。推理时权重读取是主要瓶颈，片上 SRAM 的低延迟直接转化为单 token 生成速度。
Cerebras CTO Sean Lie 在公告里对 30 倍给了一个值得记住的解读：『快 30 倍不只是让回答感觉快。它给了 Agent 系统多出两个数量级的空间，用来做推理、验证或工具调用，在同样的墙钟时间里完成』（Being 30 times faster doesn’t just make a response feel fast. It gives an agentic system room for more than an order of magnitude as much reasoning, verification, or tool use in the same wall-clock time.）。这个角度很关键——CS-4 的真正目标不是让用户少等几百毫秒，而是让『慢模型 + 多轮工具调用』的 Agent 架构，在单请求里塞进更多步骤而不超时。这是 Cerebras 想把 CS-4 定位为『Token Factory』（token 工厂）的商业逻辑基础。
三、$0.35/M 的 API 价格：看起来比主流模型便宜一个数量级
CS-4 本身是硬件销售品，Cerebras 同时提供了托管推理 API。当前公开模型目录只有两个（截至 2026 年 9 月初）：gpt-oss-120b 是生产模型，zai-glm-4.7 是预览模型（Cerebras 公告已安排 2026 年 8 月 17 日弃用）。价格如下（来源：inference-docs.cerebras.ai，第三方 Morph LLM 2026 年 9 月 2 日核实）：
| 模型 | 输入价格/百万 token | 输出价格/百万 token | 混合均价 | 上下文 |
|---|---|---|---|---|
| gpt-oss-120b（生产） | $0.35 | $0.75 | 约 $0.39 | 131,072 |
| zai-glm-4.7（预览，弃用中） | $2.25 | $2.75 | 约 $2.30 | 131,072 |
对比参照：Claude Sonnet 4.5 的公开定价是 $3/百万输入、$15/百万输出。gpt-oss-120b 在 Cerebras 上的输出价 $0.75/M，比 Claude Sonnet 4.5 的输出价低约 20 倍。这意味着如果你能接受 Cerebras 的窄模型目录和锁定风险，在纯成本维度上，Cerebras 托管推理在单用户低并发场景下极具竞争力——尤其是 Agent 场景下输出 token 消耗量大，$0.75/M 的边际成本优势会被放大。
但这个价格有前提：它对应的硬件是 WSE-3（不是 CS-4），Cerebras 公告中 CS-4 的 30 倍性能是硬件层指标，API 价格是单独的商业产品。二者不应混为一谈。
四、关键性能对比：batch size 一超过 8，Cerebras 的吞吐优势就反转
Cerebras 的 30 倍宣称有一个明确的测量条件——batch size 1。Spheron 网络的技术分析（spheron.network/blog/cerebras-vs-nvidia-h100-inference-2026）用 Llama 3.1 70B、FP8 精度做了系统对比，这是本文所有吞吐量数字的来源：
| 指标 | Cerebras WSE-3 | NVIDIA H100 SXM5（vLLM FP8） | 结论 |
|---|---|---|---|
| Batch 1 吞吐 | ~2,100 tok/s | ~550 tok/s | Cerebras 领先 |
| Batch 8 吞吐 | ~2,100 tok/s | ~3,200 tok/s | H100 反超 |
| Batch 64 吞吐 | ~2,100 tok/s | ~12,000 tok/s | H100 领先约 6 倍 |
| Batch 1 TTFT | ~50 ms | ~80 ms | Cerebras 领先 |
| Batch 32 TTFT | ~50 ms | ~400 ms | Cerebras 领先 |
| Batch 64 TTFT | ~50 ms | ~700 ms | Cerebras 领先 |
这张表最值得关注的两件事：第一，Cerebras WSE-3 的吞吐量在任何 batch size 下都基本持平（约 2,100 tok/s），因为片上 SRAM 带宽饱和了单条推理流水线，无法像 GPU HBM 那样并行服务多个 batch；第二，Cerebras 的 TTFT（首 token 延迟）在所有 batch size 下都稳定在 50ms 左右，而 H100 随 batch 增大明显恶化。这就是 Spheron 团队总结的核心权衡：『核心权衡是 batch size 对延迟。Cerebras 在任何 batch size 下的 TTFT 都赢，也在 batch 1–4 的吞吐量上赢；H100 在 batch 8+ 的吞吐量、单位 token 成本、模型多样性和运维灵活性上赢』（The core tradeoff is batch size versus latency. Cerebras wins on TTFT at any batch size and on throughput at batch 1-4. H100 wins on throughput at batch 8+, cost per token at scale, model variety, and operational flexibility.）。
五、真实成本测算：$0.60/M 对 $0.028/M，差距在 21 倍以上
把吞吐量和延迟换算成团队真正关心的单位成本，结论会反转。Spheron 团队用 Cerebras 公告的 $0.60/M（Llama 70B，2026 年初价）对 H100 SXM5（$2.904/小时按需、$0.80/小时 spot）做了 CPM（每百万输出 token 成本）计算，公式是（$/小时）除以（token/秒 × 3600）再乘以 100 万：
| 负载场景 | H100 SXM5 CPM | Cerebras CPM | 结论 |
|---|---|---|---|
| Batch 1（按需 $2.904/h） | 约 $1.47/M | 约 $0.60/M | Cerebras 便宜约 2.5 倍 |
| Batch 8（按需） | 约 $0.252/M | 约 $0.60/M | H100 反超，便宜约 2.4 倍 |
| Batch 32（按需） | 约 $0.101/M | 约 $0.60/M | H100 便宜约 6 倍 |
| Batch 8（spot $0.80/h） | 约 $0.069/M | 约 $0.60/M | H100 便宜约 8.7 倍 |
| Batch 32（spot） | 约 $0.028/M | 约 $0.60/M | H100 便宜约 21 倍 |
这个测算的核心结论是：Cerebras 的单价在 batch 1 下有优势，但一旦并发数突破 8，GPU 的规模效应就让 Cerebras 每 token 的成本变成劣势。Spheron 明确说，按需价的盈亏平衡点在 batch 2 到 8 之间；如果你的中位数 batch 一直高于这个区间，H100 是更便宜的选择。如果 spot 实例可用，H100 在更低 batch 就能追上甚至反超 Cerebras。
需要说明一点立场偏差：Spheron 是 GPU 云服务商（卖 H100、B200），他们做这个对比本身带有倾向性。但数字的原始来源——Cerebras 自己公开的 WSE-3 benchmark 和 H100 上 vLLM 社区的实测数据——是客观可复现的，结论在数学上是自洽的。
六、44GB SRAM 装不下 70B 模型：这是一个被官方公告略过的工程现实
Spheron 分析里有一句值得单独拎出来的话：『WSE-3 只有 44GB SRAM。70B 模型在 FP8 精度下需要约 70GB。Cerebras 通过量化到更低精度，或者跨多个 WSE-3 系统分区来处理这个问题』（The WSE-3 holds only 44 GB of SRAM. A 70B model at FP8 needs roughly 70 GB. Cerebras manages this by quantizing to a lower precision or by partitioning across multiple WSE-3 systems.）。这不是吹毛求疵——它意味着『21 PB/s 片上 SRAM 带宽』对『3.35 TB/s HBM 带宽』的原始带宽比值，在模型层有效吞吐上的优势会小于这个原始带宽比，因为 WSE-3 必须压缩精度才能装入模型。
CS-4 用三片 WSE-3T 组装成 750 PFLOPS、129.6 PB/s 的系统，理论上能装下更大模型（官方称支持 50T 参数以上），但同样需要理解：这是多片晶圆分工，不是单片装全部模型。CS-4 的『30 倍』宣称在 GPT-OSS-120B（120B 参数）场景成立，不代表在 50T 参数模型上还能保持同样的单用户 TPS。
七、工程细节：Nexus 架构、WSE-3T Direct Wafer Links 与 CS-3/CS-4 的对比表
CS-4 引入了 Cerebras Nexus 平台架构，其核心理念是模块化：每个元素独立可扩展，创新更快上市，部署和升级更快。Wafer-Scale Backpack 的自包含设计把电源转换、液冷、I/O、控制电子学折叠成围绕晶圆的 3D 包体，组件数比上一代少 50%、自动化制造比例提升 60%，部署时间从数天降到数小时。
另一个技术亮点是 Wafer I/O Module 支持两种连接模式：一种是标准的 RoCE v2 RDMA over Ethernet，便于接入既有网络和异构系统（Cerebras 提到与 AMD Helios、AWS Trainium 的生态对接）；另一种是新引入的 Direct Wafer Links，让晶圆之间无需交换机直连，晶圆对晶圆延迟低至 2 微秒。这个低延迟通信是 CS-4 能支撑 50T 参数模型的前提——大模型需要跨多片晶圆分布，跨晶圆通信延迟决定总推理延迟。
Cerebras 官方对比表（CS-3 vs CS-4，均为单系统指标）：
| 指标 | CS-3（1 片晶圆） | CS-4（3 片晶圆） |
|---|---|---|
| 系统 I/O 带宽 | 1.2 Tbit/s | 7.2 Tbit/s |
| I/O 延迟 | 5 微秒 | 2 微秒 |
| 算力（每片/每系统） | WSE-3: 125 PFLOPS/片（FP16 稀疏） | WSE-3T: 250 PFLOPS/片，系统 750 PFLOPS |
| 内存带宽（每片） | 21 PB/s（片上 SRAM） | 43.2 PB/s（片上 SRAM） |
| 功耗（每系统，官方） | 约 23 kW | 未公布，但单位功耗吞吐量提升 10 倍 |
| 价格（每系统，业界估计） | $200–300 万（arXiv 评估） | 未公布，预计更高 |
关于 CS-3 的 $200–300 万估价，来源是 arXiv 论文 2503.11698 的技术评估（arxiv.org/html/2503.11698v1），该文对 CS-3 与 H100/B200 做了等空间、等功耗、等成本的标准化对比。一个值得注意的独立结论是：当按性能/瓦/美元标准化对比时，B200 系统在性能/瓦/美元维度对 CS-3 有显著优势。这篇评估没有覆盖 CS-4，但从 CS-4 官方宣称的『10 倍单位功耗吞吐量』看，差距在缩小，但没有被完全抹平。
八、真实适用场景与硬限制：什么时候选 Cerebras，什么时候必须用 GPU
把所有数据放到实际选型语境里，结论其实相当清晰。Spheron 给出的决策框架（spheron.network）：
| 场景 | 选 Cerebras | 选 GPU（H100/B200） |
|---|---|---|
| 单用户聊天机器人，仅 Llama 3.x | 是 | |
| 实时 Agent（TTFT < 100ms，batch 1） | 是 | |
| 多租户 API，batch > 8 | 是 | |
| 需要微调 | 是 | |
| 框架可移植性（vLLM/SGLang） | 是 |
展开来讲，适合 Cerebras 的场景：一，低并发的实时聊天和单用户交互，TTFT 50ms 是 GPU 在 batch 8+ 时（400–700ms）无法企及的体验差异；二，需要快速跑大量推理步骤的 Agent 工作流——Sean Lie 说的『多出两个数量级的推理/验证/工具调用空间』在这个场景下价值最大；三，对成本极敏感但并发量不高的中小企业——$0.35/M 输入价在单用户场景下有明显成本优势。
必须用 GPU 的场景：一，多租户平台、API 网关、面向多个并发用户的服务——并发一超过 8，成本优势反转；二，需要私有化部署、可自主调整推理参数的团队——Cerebras 推理 API 不提供底层硬件访问权限；三，批量离线推理（batch processing）——单条流水线的固定吞吐对高 batch 场景不经济；四，任何需要微调的场景——Cerebras 推理 API 不支持微调，这是硬限制；五，需要多模型或新模型的团队——Cerebras 的公开模型目录极窄（截至 2026 年 9 月初只有 gpt-oss-120b 一个生产模型，加上即将弃用的预览模型 GLM-4.7）；六，需要框架可移植性的团队——Cerebras 用专有 SDK，不能把 vLLM 服务指向 WSE-3 硬件，迁移意味着重写推理客户端；七，跨国或多区域部署的团队——Cerebras 推理 API 目前仅在美国可用（US-only），涉及数据驻留合规。
九、锁定风险：Cerebras 推理 API 的三个关键限制
Spheron 分析明确列出了 Cerebras 推理 API 的三个锁定风险点，值得单独列出来：
第一，软件栈锁定。Cerebras 用专有 SDK，不能用 vLLM 服务器直接指向 WSE-3 硬件。任何从 GPU 的 vLLM 部署迁移到 Cerebras，都要重写推理客户端；反向迁移（回到 GPU）同样需要重写。这意味着一旦选了 Cerebras，你就失去了用标准推理框架（vLLM、SGLang、TensorRT-LLM）的选项。
第二，控制权锁定。Cerebras 推理 API 是托管服务，你没有底层硬件的访问权限，无法调整 API 暴露之外的推理参数，也没有回退运行时。如果 Cerebras 修改定价、弃用模型支持或发生故障，你没有替代运行时可用。这是自托管 GPU 与托管 Cerebras 最根本的差异。
第三，微调路径锁定。Cerebras 推理 API 完全不支持微调。如果需要把自己的领域模型训练到基座模型上，你需要一个独立的 Cerebras 集群合作项目，而这个项目不能作为自助按需购买的服务获得。这意味着 Cerebras 推理 API 目前只适合直接用现成开放权重模型的场景。
十、对内容运营与 AI 工具选型的实际意义
CS-4 的发布对我们这类以 AI 工具和内容运营为主的团队，实际影响分两层。
第一层是直接可用。Cerebras 推理 API 的 $0.35/M 输入价、$10 起付费的 Developer Tier、10 倍免费层速率上限，意味着我们可以在无硬件投资的前提下，用极低单价跑一个低延迟的 AI 功能入口（例如网站上的实时问答、AI 搜索增强、内容生成辅助）。对于本站已经在跑的工具日报、AI 搜索评测这类内容，Cerebras 的 TTFT 优势意味着用户交互体验可以做得比 GPU 托管方案更流畅。但要注意，公开模型目录只有 gpt-oss-120b 一个生产模型，预览模型 GLM-4.7 已经安排弃用——不能把业务压在一个即将弃用的模型上。
第二层是认知更新。CS-4 的『30 倍』不是一个可以被简单套用的性能倍数——SemiAnalysis 创始人 Dylan Patel 在公告中引用的等成本对比（arXiv 2503.11698）显示，在标准化（等空间、等功耗、等美元）条件下 B200 系统对 CS-3 依然有明显优势。『30 倍』是 Cerebras 在特定测量条件（batch 1、单用户、GPT-OSS-120B）下的极限，不是全场景性能差距。任何把 CS-4 的 30 倍直接推广到『推理硬件已经全面碾压 GPU』的解读，都是过度概括。
更实际的选型框架应该是：你的负载并发量、模型需求（是否只有一个开放权重模型够）、是否需要微调、是否需要框架自由——这四个变量共同决定 GPU 还是 Cerebras。对绝大多数内容运营团队来说，如果并发量低于 8、只跑 gpt-oss-120b、不需要微调、接受锁定风险，Cerebras 托管推理在成本和延迟上都是极优选择；一旦有任一条件不满足，GPU（H100/B200）依然是更稳健、更具长期可控性的选择。
十一、总结：一次改变推理延迟下限的发布，但选型逻辑要从『快』转向『负载适配』
CS-4 的真正意义，不是让所有人立刻迁移到 Cerebras——那既不现实也没有必要。它的意义在于把推理延迟的下限往下拉了一个数量级（TTFT 从 80ms 拉到 50ms，在 batch 1 下吞吐量从 550 tok/s 拉到 2,100–4,400 tok/s），让『实时、多步、Agent 化』的推理工作流在经济上变得可行。这对整个 AI 产品形态的影响，可能比单点的性能提升更深远。
但选型逻辑必须从『谁更快』转向『谁的负载更适配』。Cerebras 适合单用户实时场景、Agent 工作流、低并发高价值应用；GPU 适合多租户平台、批量推理、需要微调的场景、需要框架自由和跨模型支持的场景。这不是谁赢谁输的问题，是场景分工的问题。
对内容运营团队，Cerebras 提供了一个零硬件投资的低成本低延迟入口，值得小规模试用（Developer Tier $10 起）；但对业务规模化的团队，单位 token 成本的反转（batch 8+ 时 GPU 便宜 6–21 倍）意味着长期大规模推理仍应放在 GPU 上。两条路径并不冲突，按负载分层部署才是最经济的架构。
下一步值得关注：CS-4 的实际出货节奏（官方称 2026 年第三季度开始首批交付）、第三方实测数据（尤其是 50T 参数模型的支持情况）、API 定价是否随 CS-4 上线调整，以及模型目录是否会扩展到 DeepSeek、Gemma 等主流开放权重模型。这些都会影响 CS-4 从『硬件概念』变成『生产基础设施』的进度。
资料来源
1. Cerebras 官方新闻稿《Cerebras Unveils CS-4: Up to 30 Times Faster than GPU-based Solutions》，2026 年 8 月 18 日，investors.cerebras.ai/news-releases/news-release-details/cerebras-unveils-cs-4-30-times-faster-gpu-based-solutions。本文所有 CS-4 官方规格（750 PFLOPS、129.6 PB/s、4,400 tok/s、50T 参数、Nexus 架构、Wafer-Scale Backpack、Wafer I/O Module、Direct Wafer Links 等）均来自此公告。
2. Spheron《Cerebras vs NVIDIA H100: Wafer-Scale vs GPU for LLM Inference (2026 Decision Guide)》，spheron.network/blog/cerebras-vs-nvidia-h100-inference-2026。本文所有吞吐量对比表、TTFT 对比、$0.60/M 对 $1.47/M/$0.252/M/$0.101/M 的成本测算、44GB SRAM 容量限制分析、锁定风险三点总结、决策框架表均来自此独立分析。Spheron 是 GPU 云服务商，立场倾向 GPU，但数字的原始来源（Cerebras 官方 WSE-3 benchmark、H100 vLLM 社区实测）是客观可复现的。
3. 《A Comparison of the Cerebras Wafer-Scale Integration Technology with Nvidia GPU-based Systems for Artificial Intelligence》，arXiv 2503.11698，arxiv.org/html/2503.11698v1。本文 CS-3 与 H100/B200 的等空间/等功耗/等成本标准化对比结论、CS-3 $200–300 万系统估价均来自此论文。
4. Cerebras 推理官方文档（gpt-oss-120b），inference-docs.cerebras.ai/models/openai-oss。gpt-oss-120b 的 $0.35/M 输入价、$0.75/M 输出价、131k 上下文、~3,000 tok/s 速度、免费层速率限制（30 req/min、60k 输入 token/min、1M token/天）均来自此文档。
5. Morph LLM《Cerebras Pricing 2026: Actual Rate Limits, $/MTok and Enterprise Tiers》，morphllm.com/cerebras-pricing，2026 年 9 月 2 日核实。gpt-oss-120b 与 GLM-4.7 的价格表、Developer Tier $10 起、GLM-4.7 弃用信息来自此第三方核实。
6. Cerebras 官方定价页 cerebras.ai/pricing。Developer Tier $10 起付费、免费层 $5 赠金、10 倍免费层速率上限来自此页面。
7. Cerebras CTO Sean Lie 关于 30 倍 Agent 空间的引言，来自 Cerebras 官方公告原文。